EmoUS: Simulating User Emotions in Task-Oriented Dialogues

要約

タスク指向の対話システムのための既存のユーザーシミュレータ（US）は、ユーザーのペルソナや感情を考慮せずに、意味レベルや自然言語レベルでユーザーの行動をモデル化するだけです。様々な感情状態によって引き起こされる多様なユーザー行動をモデル化できない汎用的なユーザーポリシーで対話システムを最適化すると、実世界に展開したときに高いドロップオフレートをもたらす可能性がある。そこで、我々は、ユーザーの行動とともに、ユーザーの感情をシミュレートすることを学習するユーザーシミュレータ、EmoUSを発表する。EmoUSは、ユーザーゴール、対話履歴、ユーザーペルソナに基づき、ユーザー感情、意味的行動、自然言語応答を生成する。どのようなシステム動作がどのようなユーザー感情を引き出すかを分析することで、EmoUSが様々な対話システム、特にユーザーの感情状態への影響を評価するためのプローブとして使用できることを示す。このような手法を開発することは、大規模言語モデルのチャットボットが登場し、倫理的な懸念が高まっている現代において重要です。

要約(オリジナル)

Existing user simulators (USs) for task-oriented dialogue systems only model user behaviour on semantic and natural language levels without considering the user persona and emotions. Optimising dialogue systems with generic user policies, which cannot model diverse user behaviour driven by different emotional states, may result in a high drop-off rate when deployed in the real world. Thus, we present EmoUS, a user simulator that learns to simulate user emotions alongside user behaviour. EmoUS generates user emotions, semantic actions, and natural language responses based on the user goal, the dialogue history, and the user persona. By analysing what kind of system behaviour elicits what kind of user emotions, we show that EmoUS can be used as a probe to evaluate a variety of dialogue systems and in particular their effect on the user’s emotional state. Developing such methods is important in the age of large language model chat-bots and rising ethical concerns.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL