Towards More Accurate Prediction of Human Empathy and Emotion in Text and Multi-turn Conversations by Combining Advanced NLP, Transformers-based Networks, and Linguistic Methodologies

要約

共感の検出と感情の分類に関する WASSA 2022 の共有タスクに基づいて、エッセイに示される共感的な懸念と個人的苦痛のレベルを予測します。
このプロジェクトの最初の段階では、文レベルの埋め込みを特徴として使用するフィードフォワード ニューラル ネットワークを実装しました。
ニューラル ネットワークへの入力を生成するために 4 つの異なる埋め込みモデルを実験しました。
次の段階は前の作業に基づいており、3 種類の改訂を実装しました。
最初のリビジョンは、モデル アーキテクチャとトレーニング アプローチの強化に焦点を当てています。
2 番目のリビジョンは、層別データ サンプリングを使用したクラスの不均衡の処理に焦点を当てています。
3 番目のリビジョンでは、語彙リソースの活用に焦点を当てており、4 つの異なるリソースを適用してデータセットに関連付けられた機能を強化しています。
このプロジェクトの最終段階で、主要なタスクのパフォーマンスを修正するためのモデルのアンサンブルを使用して、主要なタスク用の最終的なエンドツーエンド システムを作成しました。
さらに、最終段階の一部として、これらのアプローチは、対話における共感感情と性格検出に関する WASSA 2023 共有タスクに適用され、二者間のテキスト会話における共感的関心、感情の極性、および感情の強さが予測されます。

要約(オリジナル)

Based on the WASSA 2022 Shared Task on Empathy Detection and Emotion Classification, we predict the level of empathic concern and personal distress displayed in essays. For the first stage of this project we implemented a Feed-Forward Neural Network using sentence-level embeddings as features. We experimented with four different embedding models for generating the inputs to the neural network. The subsequent stage builds upon the previous work and we have implemented three types of revisions. The first revision focuses on the enhancements to the model architecture and the training approach. The second revision focuses on handling class imbalance using stratified data sampling. The third revision focuses on leveraging lexical resources, where we apply four different resources to enrich the features associated with the dataset. During the final stage of this project, we have created the final end-to-end system for the primary task using an ensemble of models to revise primary task performance. Additionally, as part of the final stage, these approaches have been adapted to the WASSA 2023 Shared Task on Empathy Emotion and Personality Detection in Interactions, in which the empathic concern, emotion polarity, and emotion intensity in dyadic text conversations are predicted.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google