Evaluating Inclusivity, Equity, and Accessibility of NLP Technology: A Case Study for Indian Languages

要約

NLP テクノロジーが広く適用可能で、公平で、有用であるためには、世界中のさまざまな言語のさまざまな話者にサービスを提供し、公平である必要があります。つまり、特定の言語に偏りすぎず、すべてのユーザー、特に
コンピューティングの制約が一般的な低リソース設定で。
このホワイト ペーパーでは、NLP テクノロジを 3 つの次元すべてにわたって評価する評価パラダイムを提案します。
ダイバーシティとインクルージョンは最近の文献で注目されていますが、公平性は現在未踏です。
社会的富の不平等を推定するために使用される確立された指標であるジニ係数を使用して、このギャップに対処することを提案します。
私たちのパラダイムを使用して、3 つの次元すべてにわたって、インド (IN) 言語 (さまざまな話者人口を持つ、言語的に大きく多様なセット) の現在のテクノロジの苦境を強調します。
これらの指標を改善するために、モデルの構築とデータセットの作成における地域固有の選択の重要性を示し、さらに重要なこととして、微調整中の最適なリソース割り当てへの斬新で一般化可能なアプローチを提案します。
最後に、これらのバイアスを軽減し、コミュニティが言語的に多様で公平な技術を構築する際に多面的な評価を採用することを奨励するための手順について説明します。

要約(オリジナル)

In order for NLP technology to be widely applicable, fair, and useful, it needs to serve a diverse set of speakers across the world’s languages, be equitable, i.e., not unduly biased towards any particular language, and be inclusive of all users, particularly in low-resource settings where compute constraints are common. In this paper, we propose an evaluation paradigm that assesses NLP technologies across all three dimensions. While diversity and inclusion have received attention in recent literature, equity is currently unexplored. We propose to address this gap using the Gini coefficient, a well-established metric used for estimating societal wealth inequality. Using our paradigm, we highlight the distressed state of current technologies for Indian (IN) languages (a linguistically large and diverse set, with a varied speaker population), across all three dimensions. To improve upon these metrics, we demonstrate the importance of region-specific choices in model building and dataset creation, and more importantly, propose a novel, generalisable approach to optimal resource allocation during fine-tuning. Finally, we discuss steps to mitigate these biases and encourage the community to employ multi-faceted evaluation when building linguistically diverse and equitable technologies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google