A toolkit of dilemmas: Beyond debiasing and fairness formulas for responsible AI/ML

要約

公正で倫理的なAIへのアプローチは、最近、主に定性的な批判的データ研究という新しい分野の精査を受け、そのような介入には文脈や複雑な社会現象に対する感受性が欠けていることが強調されている。私たちは、これらの教訓をもとに、責任あるAI/MLを追求する際に遭遇するジレンマから得た、三者構成による意思決定ツールキットを紹介します。それは次のようなものである。(a)問題文を形成するデータの利用可能性と、データを形成する問題文との間の機会のジレンマ、(b)スケーラビリティとコンテクスト化可能性の間のトレードオフ（多すぎるデータと特定すぎるデータ）、(c)実用的技術客観主義と社会性を認識する反射的相対主義の間の認識論の位置づけ。本論文では、責任あるアルゴリズム／データ駆動型システムを取り巻くジレンマに対して、状況推論と創造的な関わりを提唱し、フェアAI文献に見られる定型的な偏見排除と倫理運用の物語を超えるものである。

要約(オリジナル)

Approaches to fair and ethical AI have recently fell under the scrutiny of the emerging, chiefly qualitative, field of critical data studies, placing emphasis on the lack of sensitivity to context and complex social phenomena of such interventions. We employ some of these lessons to introduce a tripartite decision-making toolkit, informed by dilemmas encountered in the pursuit of responsible AI/ML. These are: (a) the opportunity dilemma between the availability of data shaping problem statements vs problem statements shaping data; (b) the trade-off between scalability and contextualizability (too much data versus too specific data); and (c) the epistemic positioning between the pragmatic technical objectivism and the reflexive relativism in acknowledging the social. This paper advocates for a situated reasoning and creative engagement with the dilemmas surrounding responsible algorithmic/data-driven systems, and going beyond the formulaic bias elimination and ethics operationalization narratives found in the fair-AI literature.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL