DiffusEmp: A Diffusion Model-Based Framework with Multi-Grained Control for Empathetic Response Generation

要約

共感はオープンな会話において重要な要素であり、自然に相手への思いやりと理解を示します。
共感的な反応を生成するための方法はいくつか提案されていますが、既存の作品は一般的で安全な表現を参照する単調な共感につながることがよくあります。
この論文では、明示的制御を使用して共感表現をガイドし、条件付き拡散言語モデルに基づいて対話コンテキストと属性指向の制御信号の利用を統合するフレームワーク DiffusEmp を設計することを提案します。
具体的には、コミュニケーションメカニズム、意図、意味フレームが、共感の実現を粗いレベルから細かいレベルまで制御する多粒度の信号としてインポートされます。
次に、マルチグレイン信号と応答トークンの間の関係を反映する特定のマスキング戦略を設計し、それを拡散モデルに統合して生成プロセスに影響を与えます。
ベンチマーク データセット EmpatheticDialogue での実験結果は、コンテキスト関連性を失うことなく、制御性、情報提供性、多様性の点で、当社のフレームワークが競合ベースラインよりも優れていることを示しています。

要約(オリジナル)

Empathy is a crucial factor in open-domain conversations, which naturally shows one’s caring and understanding to others. Though several methods have been proposed to generate empathetic responses, existing works often lead to monotonous empathy that refers to generic and safe expressions. In this paper, we propose to use explicit control to guide the empathy expression and design a framework DiffusEmp based on conditional diffusion language model to unify the utilization of dialogue context and attribute-oriented control signals. Specifically, communication mechanism, intent, and semantic frame are imported as multi-grained signals that control the empathy realization from coarse to fine levels. We then design a specific masking strategy to reflect the relationship between multi-grained signals and response tokens, and integrate it into the diffusion model to influence the generative process. Experimental results on a benchmark dataset EmpatheticDialogue show that our framework outperforms competitive baselines in terms of controllability, informativeness, and diversity without the loss of context-relatedness.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google