Towards a Holistic Approach: Understanding Sociodemographic Biases in NLP Models using an Interdisciplinary Lens

要約

さまざまな社会工学的ソリューションにおける自然言語処理 (NLP) の使用と応用が急速に増加しており、偏見とその社会への影響を包括的に理解する必要性が浮き彫りになっています。
NLP におけるバイアスに関する研究は拡大していますが、注意を必要とするいくつかの課題が残っています。
これらには、人種や性別を超えた社会人口学的バイアスへの限定的な焦点、主にモデルを中心とした狭い分析範囲、技術中心の実装アプローチが含まれます。
この論文はこれらの課題に対処し、NLP におけるバイアスを理解するためのより学際的なアプローチを提唱します。
この研究は 3 つの側面で構成されており、それぞれが NLP におけるバイアスの特定の側面を調査しています。

要約(オリジナル)

The rapid growth in the usage and applications of Natural Language Processing (NLP) in various sociotechnical solutions has highlighted the need for a comprehensive understanding of bias and its impact on society. While research on bias in NLP has expanded, several challenges persist that require attention. These include the limited focus on sociodemographic biases beyond race and gender, the narrow scope of analysis predominantly centered on models, and the technocentric implementation approaches. This paper addresses these challenges and advocates for a more interdisciplinary approach to understanding bias in NLP. The work is structured into three facets, each exploring a specific aspect of bias in NLP.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google