DiffusEmp: A Diffusion Model-Based Framework with Multi-Grained Control for Empathetic Response Generation

要約

オープンドメインでの会話において、共感は重要な要素であり、他者への思いやりや理解を自然に示すことができる。共感的な反応を生成する方法はいくつか提案されているが、既存の研究では、一般的で安全な表現を参照する単調な共感がしばしば見られる。本論文では、共感表現を導くために明示的な制御を用いることを提案し、条件付き拡散言語モデルに基づくフレームワークDiffusEmpを設計して、対話コンテキストと属性指向の制御信号の活用を統一する。具体的には、コミュニケーションメカニズム、意図、セマンティックフレームを、共感実現を粗いレベルから細かいレベルまで制御する多階調信号として取り込む。そして、多階調信号と応答トークンの関係を反映した特定のマスキング戦略を設計し、生成プロセスに影響を与える拡散モデルに統合する。ベンチマークデータセットEmpatheticDialogueを用いた実験の結果、我々のフレームワークは、文脈関連性を失うことなく、制御性、情報性、多様性の点で競合するベースラインを上回ることが示された。

要約(オリジナル)

Empathy is a crucial factor in open-domain conversations, which naturally shows one’s caring and understanding to others. Though several methods have been proposed to generate empathetic responses, existing works often lead to monotonous empathy that refers to generic and safe expressions. In this paper, we propose to use explicit control to guide the empathy expression and design a framework DiffusEmp based on conditional diffusion language model to unify the utilization of dialogue context and attribute-oriented control signals. Specifically, communication mechanism, intent, and semantic frame are imported as multi-grained signals that control the empathy realization from coarse to fine levels. We then design a specific masking strategy to reflect the relationship between multi-grained signals and response tokens, and integrate it into the diffusion model to influence the generative process. Experimental results on a benchmark dataset EmpatheticDialogue show that our framework outperforms competitive baselines in terms of controllability, informativeness, and diversity without the loss of context-relatedness.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL