Can Large Language Models be Good Emotional Supporter? Mitigating Preference Bias on Emotional Support Conversation

要約

Emotional Support Conversation (ESC) は、日常の会話を通じて個人の精神的苦痛を軽減することを目的としたタスクです。
ESConv データセットには、その固有の複雑さと非直観的な性質を考慮して、適切な応答の生成を容易にするサポート戦略が組み込まれています。
最近、大規模言語モデル (LLM) の顕著な会話能力にもかかわらず、以前の研究では、LLM は有用な感情的サポートを提供するのに苦労することが多いことが示唆されています。
したがって、この研究では最初に ESConv 上の LLM の結果を分析し、正しい戦略を選択する際の課題と、特定の戦略に対する顕著な好みを明らかにしました。
これらを動機として、私たちはLLMに固有の選好が感情的サポートの提供に及ぼす影響を調査し、その結果、特定の戦略に対する高い選好を示すことが効果的な感情的サポートを妨げ、適切な戦略を予測する際の堅牢性を悪化させることを観察しました。
さらに、私たちは、LLM が熟練した感情的サポーターとして機能するために必要なアプローチについての洞察を提供するための方法論的研究を実施します。
私たちの調査結果は、(1) 特定の戦略に対する選好度が低いと、感情的サポートの進展が妨げられる、(2) 外部支援が選好バイアスの軽減に役立つ、(3) LLM だけでは優れた感情的サポートになれない、ということを強調しています。
これらの洞察は、LLM の心の知能を高めるための将来の研究に有望な道を示唆しています。

要約(オリジナル)

Emotional Support Conversation (ESC) is a task aimed at alleviating individuals’ emotional distress through daily conversation. Given its inherent complexity and non-intuitive nature, ESConv dataset incorporates support strategies to facilitate the generation of appropriate responses. Recently, despite the remarkable conversational ability of large language models (LLMs), previous studies have suggested that they often struggle with providing useful emotional support. Hence, this work initially analyzes the results of LLMs on ESConv, revealing challenges in selecting the correct strategy and a notable preference for a specific strategy. Motivated by these, we explore the impact of the inherent preference in LLMs on providing emotional support, and consequently, we observe that exhibiting high preference for specific strategies hinders effective emotional support, aggravating its robustness in predicting the appropriate strategy. Moreover, we conduct a methodological study to offer insights into the necessary approaches for LLMs to serve as proficient emotional supporters. Our findings emphasize that (1) low preference for specific strategies hinders the progress of emotional support, (2) external assistance helps reduce preference bias, and (3) LLMs alone cannot become good emotional supporters. These insights suggest promising avenues for future research to enhance the emotional intelligence of LLMs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google