A Causal Framework to Measure and Mitigate Non-binary Treatment Discrimination

要約

アルゴリズムの意思決定システムの公平性研究では、しばしば保釈やローンの承認などの複雑な意思決定プロセスをバイナリ分類タスクに簡素化します。
ただし、これらのアプローチは、そのような決定が本質的にバイナリではないことを見落としています（例えば、保釈またはローンを承認または承認しない）。
また、下流の結果に影響を与える可能性のある非バイナリ治療の決定（保釈条件や融資条件など）（例：ローンの返済や再犯）が含まれます。
この論文では、非バイナリ治療の決定は意思決定プロセスに不可欠であり、意思決定者によって管理されているため、アルゴリズムの意思決定における公平性分析の中心であるべきであると主張します。
公平性分析を拡張し、意思決定者の共変量と治療の決定を明示的に区別する因果フレームワークを提案します。
この仕様により、意思決定者は私たちのフレームワークを使用して、（i）履歴データにおける治療の格差とその下流の影響を測定し、反事実的な推論を使用して、（ii）意思決定を自動化する際の過去の不公平な治療決定の影響を軽減することができます。
私たちのフレームワークを使用して、4つの広く使用されているローン承認データセットを経験的に分析して、非バイナリ治療の決定における潜在的な格差と結果に対する差別的な影響を明らかにし、公平性評価に治療の決定を組み込む必要性を強調しています。
さらに、治療の決定に介入することにより、私たちのフレームワークは、すべての利害関係者に利益をもたらす公正なリスクスコアの推定と（非バイナリ）意思決定プロセスを確保するために、履歴データからの治療差別を効果的に軽減することを示します。

要約(オリジナル)

Fairness studies of algorithmic decision-making systems often simplify complex decision processes, such as bail or loan approvals, into binary classification tasks. However, these approaches overlook that such decisions are not inherently binary (e.g., approve or not approve bail or loan); they also involve non-binary treatment decisions (e.g., bail conditions or loan terms) that can influence the downstream outcomes (e.g., loan repayment or reoffending). In this paper, we argue that non-binary treatment decisions are integral to the decision process and controlled by decision-makers and, therefore, should be central to fairness analyses in algorithmic decision-making. We propose a causal framework that extends fairness analyses and explicitly distinguishes between decision-subjects’ covariates and the treatment decisions. This specification allows decision-makers to use our framework to (i) measure treatment disparity and its downstream effects in historical data and, using counterfactual reasoning, (ii) mitigate the impact of past unfair treatment decisions when automating decision-making. We use our framework to empirically analyze four widely used loan approval datasets to reveal potential disparity in non-binary treatment decisions and their discriminatory impact on outcomes, highlighting the need to incorporate treatment decisions in fairness assessments. Moreover, by intervening in treatment decisions, we show that our framework effectively mitigates treatment discrimination from historical data to ensure fair risk score estimation and (non-binary) decision-making processes that benefit all stakeholders.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google