Angry Men, Sad Women: Large Language Models Reflect Gendered Stereotypes in Emotion Attribution

要約

大規模言語モデル (LLM) は、特にジェンダーに関する社会規範と偏見を反映しています。
社会的な偏見や固定観念はさまざまな NLP アプリケーションで広範囲に研究されていますが、感情分析には驚くべきギャップがあります。
しかし、感情とジェンダーは社会的議論において密接に関連しています。
たとえば、女性は共感力が高いと思われがちですが、男性の怒りはより社会的に受け入れられています。
このギャップを埋めるために、5 つの最先端の LLM (オープンソースおよびクローズドソース) における性別による感情の帰属に関する最初の包括的な研究を紹介します。
私たちは、感情に性別があるかどうか、またその変動が社会の固定観念に基づいているかどうかを調査します。
私たちはモデルたちに、性別に基づいたペルソナを採用し、「大切な人と真剣に口論したとき」のような出来事に感情を帰すよう促します。
次に、性別とイベントのペアに関連してモデルによって生成された感情を分析します。
すべてのモデルが、性別に関する固定観念の影響を受けて、性別に応じた感情を一貫して示していることがわかりました。
これらの発見は、心理学およびジェンダー研究における確立された研究と一致しています。
私たちの研究は、言語、性別、感情の間の複雑な社会的相互作用に光を当てています。
LLM で感情のステレオタイプを再現すると、これらのモデルを使用してトピックを詳細に研究できるようになりますが、同じ LLM を感情のアプリケーションに予測的に使用することについては疑問が生じます。

要約(オリジナル)

Large language models (LLMs) reflect societal norms and biases, especially about gender. While societal biases and stereotypes have been extensively researched in various NLP applications, there is a surprising gap for emotion analysis. However, emotion and gender are closely linked in societal discourse. E.g., women are often thought of as more empathetic, while men’s anger is more socially accepted. To fill this gap, we present the first comprehensive study of gendered emotion attribution in five state-of-the-art LLMs (open- and closed-source). We investigate whether emotions are gendered, and whether these variations are based on societal stereotypes. We prompt the models to adopt a gendered persona and attribute emotions to an event like ‘When I had a serious argument with a dear person’. We then analyze the emotions generated by the models in relation to the gender-event pairs. We find that all models consistently exhibit gendered emotions, influenced by gender stereotypes. These findings are in line with established research in psychology and gender studies. Our study sheds light on the complex societal interplay between language, gender, and emotion. The reproduction of emotion stereotypes in LLMs allows us to use those models to study the topic in detail, but raises questions about the predictive use of those same LLMs for emotion applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google