Words Like Knives: Backstory-Personalized Modeling and Detection of Violent Communication

要約

密接な関係にある会話の故障は、個人的な歴史と感情的な文脈によって深く形作られていますが、ほとんどのNLP研究は、紛争検出を一般的なタスクとして扱い、メッセージの知覚に影響を与える関係ダイナミクスを見落としています。
この作業では、非暴力コミュニケーション（NVC）理論を活用して、会話の故障を検出し、関係のバックストーリーが紛争の人間とモデルの認識の両方にどのように影響するかを評価する際にLLMを評価します。
豊かな個人的なバックストーリーを持つ身近な社会的パートナー間の対立を特徴とする現実世界のデータセットの感度と希少性を考えると、私たちは、友人、家族、ロマンチックなパートナーの間の多様な紛争シナリオにまたがるN = 5,772の自然主義的なシミュレートされた対話のデータセットであるPersonAconflicts Corpusに貢献します。
制御された人間の研究を通じて、対話のサブセットに注釈を付け、個々のターンでのコミュニケーションの故障タイプのきめの細かいラベルを取得し、人間と会話の紛争のモデル認識に対するバックストーリーの影響を評価します。
関係のバックストーリーの極性は、社会的パートナーのコミュニケーションの崩壊と印象に対する人間の認識を大幅に変えたが、モデルは検出タスクでそれらのバックストーリーを有意義に活用するのに苦労していることがわかります。
さらに、モデルは、メッセージがリスナーをどのように積極的に感じさせるかを一貫して過大評価していることがわかります。
私たちの調査結果は、LLMが本物のつながりのために人間のコミュニケーションにおいて効果的なメディエーターとして役立つことを可能にする際の関係コンテキストに対するパーソナライズの重要な役割を強調しています。

要約(オリジナル)

Conversational breakdowns in close relationships are deeply shaped by personal histories and emotional context, yet most NLP research treats conflict detection as a general task, overlooking the relational dynamics that influence how messages are perceived. In this work, we leverage nonviolent communication (NVC) theory to evaluate LLMs in detecting conversational breakdowns and assessing how relationship backstory influences both human and model perception of conflicts. Given the sensitivity and scarcity of real-world datasets featuring conflict between familiar social partners with rich personal backstories, we contribute the PersonaConflicts Corpus, a dataset of N=5,772 naturalistic simulated dialogues spanning diverse conflict scenarios between friends, family members, and romantic partners. Through a controlled human study, we annotate a subset of dialogues and obtain fine-grained labels of communication breakdown types on individual turns, and assess the impact of backstory on human and model perception of conflict in conversation. We find that the polarity of relationship backstories significantly shifted human perception of communication breakdowns and impressions of the social partners, yet models struggle to meaningfully leverage those backstories in the detection task. Additionally, we find that models consistently overestimate how positively a message will make a listener feel. Our findings underscore the critical role of personalization to relationship contexts in enabling LLMs to serve as effective mediators in human communication for authentic connection.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google