Computer says ‘No’: The Case Against Empathetic Conversational AI

要約

感情は人間の認識に不可欠な部分であり、世界に対する理解だけでなく、その中での行動にも影響を及ぼします。
したがって、感情を和らげるか、それとも炎上させるかは重要ではありません。
会話型 AI の最近の研究は、ユーザーに共感的に応答し、実際の根拠なしにユーザーの感情を検証し、和らげることに重点を置いています。
この AI を利用した感情制御は、ユーザーや社会にマイナスの影響を与える可能性があり、「否定的な」感情がないことだけを定義される単一の幸福に向かう傾向があります。
ユーザーの感情に応えるかどうか、またどのように応えるかを慎重に検討する必要があると主張します。

要約(オリジナル)

Emotions are an integral part of human cognition and they guide not only our understanding of the world but also our actions within it. As such, whether we soothe or flame an emotion is not inconsequential. Recent work in conversational AI has focused on responding empathetically to users, validating and soothing their emotions without a real basis. This AI-aided emotional regulation can have negative consequences for users and society, tending towards a one-noted happiness defined as only the absence of ‘negative’ emotions. We argue that we must carefully consider whether and how to respond to users’ emotions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google