Using Emotion Embeddings to Transfer Knowledge Between Emotions, Languages, and Annotation Formats

要約

テキストから感情を推測する必要性は、ますます多くの分野で感情を理論や応用に統合するにつれて、多様化し続けています。
これらのニーズには、さまざまな感情タイプの推測、複数言語の処理、さまざまな注釈形式が含まれます。
異なる構成間でモデルを共有すると、知識の共有とトレーニング コストの削減が可能になり、新しい環境で感情認識モデルを展開するプロセスが簡素化されます。
この作業では、多言語モデルと、入力に関心のある感情が含まれる変換ベースのモデルである Demux を活用して、これらの異なる構成間で遷移できる単一のモデルを構築する方法を研究します。
モデル。
Demux は感情の埋め込みも生成し、それらに対して操作を実行すると、各クラスターの埋め込みをプールすることにより、感情のクラスターに移行できます。
Demux はゼロ ショット方式で新しい言語、新しい注釈形式、目に見えない感情に同時に知識を転送できることを示します。
コードは https://github.com/gchochla/Demux-MEmo で入手できます。

要約(オリジナル)

The need for emotional inference from text continues to diversify as more and more disciplines integrate emotions into their theories and applications. These needs include inferring different emotion types, handling multiple languages, and different annotation formats. A shared model between different configurations would enable the sharing of knowledge and a decrease in training costs, and would simplify the process of deploying emotion recognition models in novel environments. In this work, we study how we can build a single model that can transition between these different configurations by leveraging multilingual models and Demux, a transformer-based model whose input includes the emotions of interest, enabling us to dynamically change the emotions predicted by the model. Demux also produces emotion embeddings, and performing operations on them allows us to transition to clusters of emotions by pooling the embeddings of each cluster. We show that Demux can simultaneously transfer knowledge in a zero-shot manner to a new language, to a novel annotation format and to unseen emotions. Code is available at https://github.com/gchochla/Demux-MEmo .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google