The Unfairness of $\varepsilon$-Fairness

要約

意思決定プロセスの公平性は、多くの場合、確率的指標を使用して定量化されます。
ただし、これらの指標は不公平による現実世界の影響を完全には捉えていない可能性があります。
この記事では、意思決定プロセスが現実世界に与える影響をより正確に測定するために、ユーティリティベースのアプローチを採用します。
特に、$\varepsilon$-fairness の概念が採用された場合、現実世界の文脈では最大限に不公平な結果が生じる可能性があることを示します。
さらに、重要な公平性の考慮事項を引き続き考慮した、削減された設定を提案することで、偽陰性に関するデータが利用できないという一般的な問題に対処します。
私たちの調査結果を、大学入学と信用リスク評価という 2 つの実際の例で説明します。
私たちの分析により、従来の確率ベースの評価は公平性を示唆する可能性がありますが、効用ベースのアプローチは真に平等を達成するために必要な行動を明らかにすることが明らかになりました。
たとえば、大学入学の場合、公平性を確保するには修了率を高めることが重要であることがわかります。
要約すると、このホワイトペーパーは、公平性を評価する際に現実世界の状況を考慮することの重要性を強調しています。

要約(オリジナル)

Fairness in decision-making processes is often quantified using probabilistic metrics. However, these metrics may not fully capture the real-world consequences of unfairness. In this article, we adopt a utility-based approach to more accurately measure the real-world impacts of decision-making process. In particular, we show that if the concept of $\varepsilon$-fairness is employed, it can possibly lead to outcomes that are maximally unfair in the real-world context. Additionally, we address the common issue of unavailable data on false negatives by proposing a reduced setting that still captures essential fairness considerations. We illustrate our findings with two real-world examples: college admissions and credit risk assessment. Our analysis reveals that while traditional probability-based evaluations might suggest fairness, a utility-based approach uncovers the necessary actions to truly achieve equality. For instance, in the college admission case, we find that enhancing completion rates is crucial for ensuring fairness. Summarizing, this paper highlights the importance of considering the real-world context when evaluating fairness.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google