AI Biases as Asymmetries: A Review to Guide Practice

要約

AIのバイアスの理解は現在革命を受けています。
最初はエラーまたは欠陥として理解されていたため、バイアスはAIシステムに不可欠であるとますます認識されており、偏った代替品よりも好ましい場合があります。
このホワイトペーパーでは、この変化の理解の理由を確認し、2つの質問に関する新しいガイダンスを提供します。まず、新しい理解と一致して、AIシステムのバイアスについてどのように考え、測定する必要がありますか？
第二に、AIシステムのどのようなバイアスを受け入れるか、さらに増幅する必要があり、どのような種類を最小化または排除する必要がありますか？
両方の質問に答えるための鍵は、バイアスを「対称基準の違反」（ケリーに続いて）として理解することです。
AIシステムエラーバイアス、不平等バイアス、プロセスバイアス、および各タイプのバイアスが良い、悪い、または避けられない可能性が高いAI開発とアプリケーションのプロセスバイアスとハイライトの3つの主要な非対称性を区別します。

要約(オリジナル)

The understanding of bias in AI is currently undergoing a revolution. Initially understood as errors or flaws, biases are increasingly recognized as integral to AI systems and sometimes preferable to less biased alternatives. In this paper, we review the reasons for this changed understanding and provide new guidance on two questions: First, how should we think about and measure biases in AI systems, consistent with the new understanding? Second, what kinds of bias in an AI system should we accept or even amplify, and what kinds should we minimize or eliminate, and why? The key to answering both questions, we argue, is to understand biases as ‘violations of a symmetry standard’ (following Kelly). We distinguish three main types of asymmetry in AI systems-error biases, inequality biases, and process biases-and highlight places in the pipeline of AI development and application where bias of each type is likely to be good, bad, or inevitable.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google