Divine LLaMAs: Bias, Stereotypes, Stigmatization, and Emotion Representation of Religion in Large Language Models

要約

感情は私たちの生活において認識論的および認知的役割を果たし、私たちの価値観を明らかにし、行動を導きます。
これまでの研究では、LLM が性別の境界に沿って感情帰属にバイアスを示すことが示されています。
しかし、私たちの価値観についてほとんど何も語らないジェンダーとは異なり、社会文化システムとしての宗教は、信者に一連の信念と価値観を規定します。
したがって、宗教は特定の感情を育てます。
さらに、これらの規則は宗教指導者によって明確に定められ、解釈されます。
感情の帰属を使用して、LLM でさまざまな宗教がどのように表現されるかを調査します。
私たちは次のことを発見しました: 米国とヨーロッパ諸国の主要な宗教は、よりニュアンスを持って表現されており、その信念のより陰影のあるモデルを示しています。
ヒンドゥー教や仏教などの東洋の宗教は、固定観念が強いです。
ユダヤ教とイスラム教は非難されており、モデルたちの拒否率は急増している。
これらは、LLM における文化的偏見と、宗教に関する NLP 文献の不足に起因すると考えられます。
宗教が議論されることはまれですが、有害な言葉の文脈で語られることが多く、これらの宗教は本質的に有害であるという認識が永続します。
この発見は、これらの偏見に対処し、修正することが緊急に必要であることを強調しています。
私たちの研究は、感情が私たちの生活の中で重要な役割を果たしており、私たちの価値観が感情にどのように影響しているかを浮き彫りにしています。

要約(オリジナル)

Emotions play important epistemological and cognitive roles in our lives, revealing our values and guiding our actions. Previous work has shown that LLMs display biases in emotion attribution along gender lines. However, unlike gender, which says little about our values, religion, as a socio-cultural system, prescribes a set of beliefs and values for its followers. Religions, therefore, cultivate certain emotions. Moreover, these rules are explicitly laid out and interpreted by religious leaders. Using emotion attribution, we explore how different religions are represented in LLMs. We find that: Major religions in the US and European countries are represented with more nuance, displaying a more shaded model of their beliefs. Eastern religions like Hinduism and Buddhism are strongly stereotyped. Judaism and Islam are stigmatized — the models’ refusal skyrocket. We ascribe these to cultural bias in LLMs and the scarcity of NLP literature on religion. In the rare instances where religion is discussed, it is often in the context of toxic language, perpetuating the perception of these religions as inherently toxic. This finding underscores the urgent need to address and rectify these biases. Our research underscores the crucial role emotions play in our lives and how our values influence them.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google