Cause-Aware Empathetic Response Generation via Chain-of-Thought Fine-Tuning

要約

共感的な応答の生成により、エージェントは対話の文脈を理解し、表現された感情に反応する能力が得られます。
これまでの研究では、主に話者の感情的なラベルを活用することに焦点を当てていましたが、共感的な応答生成における感情原因推論の重要性が無視されており、これによりモデルのさらなる感情理解と認知推論の能力が妨げられていました。
この論文では、大規模言語モデル (LLM) 上で適切に設計された思考連鎖 (CoT) プロンプトを通じて感情と原因を統合することにより、原因を意識した共感生成アプローチを提案します。
私たちのアプローチは、指示を調整し、プロンプト内の共感的な聞き手の役割認識を強化することにより、LLM の共感のパフォーマンスを大幅に促進できます。
さらに、COMET からの原因指向の外部知識をプロンプトに組み込むことを提案します。これにより、世代の多様性が向上し、同時に内部知識と外部知識の間の矛盾が軽減されます。
ベンチマーク データセットの実験結果は、LLaMA-7b に対する私たちのアプローチが自動評価と人間による評価の両方で最先端のパフォーマンスを達成していることを示しています。

要約(オリジナル)

Empathetic response generation endows agents with the capability to comprehend dialogue contexts and react to expressed emotions. Previous works predominantly focus on leveraging the speaker’s emotional labels, but ignore the importance of emotion cause reasoning in empathetic response generation, which hinders the model’s capacity for further affective understanding and cognitive inference. In this paper, we propose a cause-aware empathetic generation approach by integrating emotions and causes through a well-designed Chain-of-Thought (CoT) prompt on Large Language Models (LLMs). Our approach can greatly promote LLMs’ performance of empathy by instruction tuning and enhancing the role awareness of an empathetic listener in the prompt. Additionally, we propose to incorporate cause-oriented external knowledge from COMET into the prompt, which improves the diversity of generation and alleviates conflicts between internal and external knowledge at the same time. Experimental results on the benchmark dataset demonstrate that our approach on LLaMA-7b achieves state-of-the-art performance in both automatic and human evaluations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google