The Case for Globalizing Fairness: A Mixed Methods Study on Colonialism, AI, and Health in Africa

要約

医療における機械学習 (ML) テクノロジーの応用が進むにつれ、これらのシステムが示す可能性のあるバイアスを理解し、軽減するための技術の開発が求められています。
健康のための ML ベースのソリューションの開発における公平性の考慮は、すでに世界の北と南の間で不公平な力の不均衡に直面しているアフリカに特に影響を及ぼします。この論文では、アフリカをケーススタディとして、世界の健康に対する公平性を探ることを目指しています。
私たちはスコーピングレビューを実施して、アフリカの文脈における公平性を考慮するための格差軸を提案し、それらがさまざまな ML 対応の医療モダリティにおいてどこで影響を与える可能性があるかを線引きします。
次に、672 人の一般人口調査参加者と、アフリカに焦点を当てたML、健康、政策の専門家 28 人を対象に定性調査研究を実施し、提案されている格差軸に関する裏付け証拠を入手します。
私たちの分析では、関心のある属性として植民地主義に焦点を当て、人工知能 (AI)、健康、植民地主義の間の相互作用を調査します。
事前に特定された属性のうち、植民地時代の歴史、出身国、国民所得水準が、AI システムに偏りをもたらすと参加者が考える特定の格差軸であることがわかりました。しかし、専門家と一般の間でも意見の相違がありました。
人口参加者。
アフリカにおける AI テクノロジーの開発と導入における植民地時代の歴史の関連性について、専門家は一般に共通の見解を表明しましたが、調査対象となった一般参加者の大多数は、AI と植民地主義の間に直接的な関連性があるとは考えていませんでした。
これらの調査結果に基づいて、アフリカの健康のための公平性を意識した ML ソリューションを開発するための実践的な推奨事項を提供します。

要約(オリジナル)

With growing application of machine learning (ML) technologies in healthcare, there have been calls for developing techniques to understand and mitigate biases these systems may exhibit. Fair-ness considerations in the development of ML-based solutions for health have particular implications for Africa, which already faces inequitable power imbalances between the Global North and South.This paper seeks to explore fairness for global health, with Africa as a case study. We conduct a scoping review to propose axes of disparities for fairness consideration in the African context and delineate where they may come into play in different ML-enabled medical modalities. We then conduct qualitative research studies with 672 general population study participants and 28 experts inML, health, and policy focused on Africa to obtain corroborative evidence on the proposed axes of disparities. Our analysis focuses on colonialism as the attribute of interest and examines the interplay between artificial intelligence (AI), health, and colonialism. Among the pre-identified attributes, we found that colonial history, country of origin, and national income level were specific axes of disparities that participants believed would cause an AI system to be biased.However, there was also divergence of opinion between experts and general population participants. Whereas experts generally expressed a shared view about the relevance of colonial history for the development and implementation of AI technologies in Africa, the majority of the general population participants surveyed did not think there was a direct link between AI and colonialism. Based on these findings, we provide practical recommendations for developing fairness-aware ML solutions for health in Africa.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google