The Disparate Impact of Uncertainty: Affirmative Action vs. Affirmative Information

要約

採用、大学入学、ローンの承認などの重要な決定は、不確実性がある中での予測に基づいて行われます。
不確実性はすべての人口統計グループに誤差をもたらしますが、この論文は、誤差の種類が体系的に異なることを示しています。平均結果が高いグループには通常、より高い偽陽性率が割り当てられ、平均結果が低いグループにはより高い偽陰性率が割り当てられます。
私たちは、この異なる影響を引き起こす条件を特徴づけ、データセットから人口統計変数を除外するという直感的な解決策がそれを修正できない理由を説明します。
このペーパーでは、データを省略するのではなく、データを強化することで機会へのアクセスをどのように広げることができるかを検証します。
私たちが「積極的情報」と呼ぶこの戦略は、積極的差別是正措置の代替となる可能性があります。

要約(オリジナル)

Critical decisions like hiring, college admissions, and loan approvals are guided by predictions made in the presence of uncertainty. While uncertainty imparts errors across all demographic groups, this paper shows that the types of errors vary systematically: Groups with higher average outcomes are typically assigned higher false positive rates, while those with lower average outcomes are assigned higher false negative rates. We characterize the conditions that give rise to this disparate impact and explain why the intuitive remedy to omit demographic variables from datasets does not correct it. Instead of data omission, this paper examines how data enrichment can broaden access to opportunity. The strategy, which we call ‘Affirmative Information,’ could stand as an alternative to Affirmative Action.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google