Manifestations of Xenophobia in AI Systems

要約

外国人排斥は疎外、差別、紛争の主な要因の 1 つですが、多くの著名な機械学習 (ML) 公平性フレームワークは、結果として生じる外国人排斥の害を包括的に測定したり軽減したりすることができません。
ここでは、この概念的なギャップを埋め、人工知能 (AI) ソリューションの安全かつ倫理的な設計を促進することを目指しています。
私たちは、まず外国人嫌悪の害の異なるタイプを特定し、次にこのフレームワークを多くの著名な AI アプリケーション領域に適用することで、外国人嫌悪の影響の分析を基礎にし、ソーシャル メディアと推奨システム、医療、移民における AI と外国人嫌悪の間の潜在的な相互作用をレビューします。
、雇用、および大規模な事前トレーニング済みモデルのバイアス。
これらは、将来の AI システムの包括的で排外的な設計に向けた推奨事項を伝えるのに役立ちます。

要約(オリジナル)

Xenophobia is one of the key drivers of marginalisation, discrimination, and conflict, yet many prominent machine learning (ML) fairness frameworks fail to comprehensively measure or mitigate the resulting xenophobic harms. Here we aim to bridge this conceptual gap and help facilitate safe and ethical design of artificial intelligence (AI) solutions. We ground our analysis of the impact of xenophobia by first identifying distinct types of xenophobic harms, and then applying this framework across a number of prominent AI application domains, reviewing the potential interplay between AI and xenophobia on social media and recommendation systems, healthcare, immigration, employment, as well as biases in large pre-trained models. These help inform our recommendations towards an inclusive, xenophilic design of future AI systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google