Evaluating the Diversity, Equity and Inclusion of NLP Technology: A Case Study for Indian Languages

要約

タイトル：インド諸言語のNLP技術の多様性、公正性、包摂性の評価：事例研究

要約：

– NLP技術が広く適用され、公正であり、有用であるためには、世界の様々な言語を話す人々にサービスを提供する必要があり、任意の特定の言語に偏っているわけではなく、コンピュートリソースに制限がある低資源環境下でも全てのユーザーを包摂する必要があります。
– この論文では、3つの次元を横断的に評価する評価パラダイムを提案しました。最近の文献では多様性と包摂性が注目されていますが、公正性はまだ未解明です。社会的富の不平等を推定するために使用される広く受け入れられた指標であるジニ係数を使用して、公正性の評価に取り組むことを提案しました。
– 提案された評価パラダイムを使用して、NLP技術がIndian (IN)諸言語（言語的に広範で多様な話者人口を持つ）において、3つの次元すべてにおいて苦境にあることを強調しました。これらの指標を改善するために、モデル構築やデータセットの作成において地域固有の選択の重要性とともに、ファインチューニング時の最適なリソース割り当てに対する新しい汎用的なアプローチを提唱しました。
– 最後に、これらのバイアスを緩和するための手順について議論し、言語的に多様で公平な技術を構築する際に多面的評価を行うようコミュニティに呼びかけました。

要約(オリジナル)

In order for NLP technology to be widely applicable, fair, and useful, it needs to serve a diverse set of speakers across the world’s languages, be equitable, i.e., not unduly biased towards any particular language, and be inclusive of all users, particularly in low-resource settings where compute constraints are common. In this paper, we propose an evaluation paradigm that assesses NLP technologies across all three dimensions. While diversity and inclusion have received attention in recent literature, equity is currently unexplored. We propose to address this gap using the Gini coefficient, a well-established metric used for estimating societal wealth inequality. Using our paradigm, we highlight the distressed state of current technologies for Indian (IN) languages (a linguistically large and diverse set, with a varied speaker population), across all three dimensions. To improve upon these metrics, we demonstrate the importance of region-specific choices in model building and dataset creation, and more importantly, propose a novel, generalisable approach to optimal resource allocation during fine-tuning. Finally, we discuss steps to mitigate these biases and encourage the community to employ multi-faceted evaluation when building linguistically diverse and equitable technologies.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI