Bound by the Bounty: Collaboratively Shaping Evaluation Processes for Queer AI Harms

要約

バイアス評価ベンチマーク、データセットとモデルの文書化は、人工知能 (AI) システムのバイアスと害を評価するための中心的なプロセスとして登場しました。
しかし、これらの監査プロセスは、疎外されたコミュニティの知識を統合し、監査員とコミュニティの間の力関係を考慮していないとして批判されています。
その結果、AI システムの害を特定し評価する際に影響を受けるコミュニティを関与させるバイアス評価のモード (バイアス報奨金など) が提案されています。
それでも、社会から疎外されたコミュニティがそのような監査プロセスに何を求めているかを問うことは無視されてきました。
この文書では、クィアコミュニティに監査プロセスに対する立場と監査に対する要望を尋ねます。
この目的を達成するために、私たちはクィアの観点からバイアス報奨金を批判し、再設計するための参加型ワークショップを組織しました。
スペースが与えられると、ワークショップ参加者からのフィードバックの範囲はバイアス報奨金が与える範囲をはるかに超えており、参加者は報奨金の所有権、インセンティブ、有効性について疑問を抱いていることがわかりました。
最後に、コミュニティによる報奨金の所有権を主張し、参加型プロセス (共創など) で報奨金を補完することを主張します。

要約(オリジナル)

Bias evaluation benchmarks and dataset and model documentation have emerged as central processes for assessing the biases and harms of artificial intelligence (AI) systems. However, these auditing processes have been criticized for their failure to integrate the knowledge of marginalized communities and consider the power dynamics between auditors and the communities. Consequently, modes of bias evaluation have been proposed that engage impacted communities in identifying and assessing the harms of AI systems (e.g., bias bounties). Even so, asking what marginalized communities want from such auditing processes has been neglected. In this paper, we ask queer communities for their positions on, and desires from, auditing processes. To this end, we organized a participatory workshop to critique and redesign bias bounties from queer perspectives. We found that when given space, the scope of feedback from workshop participants goes far beyond what bias bounties afford, with participants questioning the ownership, incentives, and efficacy of bounties. We conclude by advocating for community ownership of bounties and complementing bounties with participatory processes (e.g., co-creation).

arxiv情報

提供元, 利用サービス

arxiv.jp, Google