Language-Specific Representation of Emotion-Concept Knowledge Causally Supports Emotion Inference

要約

言語が感情の推論をどのようにサポートするかを理解することは、依然として感情科学の議論のテーマです。
本研究では、大規模な言語モデルで言語固有の知識表現を操作することにより、言語由来の感情概念の知識が感情推論を因果的にサポートするかどうかを調査しました。
プロンプト技術を使用して、感情概念の 14 の属性が個別の人工ニューロン集団によって表現されることが判明しました。
これらの属性関連ニューロンを操作することにより、感情推論タスクの大部分は、ランダムな操作と比較してパフォーマンスの低下を示しました。
属性固有のパフォーマンスの低下は、人間の精神空間におけるさまざまな属性の重要性に関連していました。
私たちの発見は、感情推論のための言語ベースのメカニズムを裏付ける因果関係の証拠を提供し、感情概念の知識の貢献を強調しています。

要約(オリジナル)

Understanding how language supports emotion inference remains a topic of debate in emotion science. The present study investigated whether language-derived emotion-concept knowledge would causally support emotion inference by manipulating the language-specific knowledge representations in large language models. Using the prompt technique, 14 attributes of emotion concepts were found to be represented by distinct artificial neuron populations. By manipulating these attribute-related neurons, the majority of the emotion inference tasks showed performance deterioration compared to random manipulations. The attribute-specific performance deterioration was related to the importance of different attributes in human mental space. Our findings provide causal evidence in support of a language-based mechanism for emotion inference and highlight the contributions of emotion-concept knowledge.

arxiv情報

著者 Ming Li,Yusheng Su,Hsiu-Yuan Huang,Jiali Cheng,Xin Hu,Xinmiao Zhang,Huadong Wang,Yujia Qin,Xiaozhi Wang,Zhiyuan Liu,Dan Zhang
発行日 2023-08-21 09:44:19+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CL パーマリンク