Mitigating Nonlinear Algorithmic Bias in Binary Classification

要約

この論文では、保護された属性の非線形であるアルゴリズムのバイアスを検出および軽減するために、因果モデリングの使用を提案します。
私たちのアプローチの一般的な概要を説明します。
私たちは、UC Irvine Machine Learning Repository からダウンロードできる German Credit データ セットを使用して、(1) ブラック ボックスとして扱われる予測モデル、および (2) バイアス軽減のための因果モデルを開発します。
この論文では、年齢バイアスと二項分類の問題に焦点を当てます。
「低リスク」として正しく分類される確率は若者の間で最も低いことを示します。
その確率は年齢とともに非線形に増加します。
非線形性を因果モデルに組み込むために、高次の多項式項を導入します。
適合した因果モデルに基づいて偏りのない確率推定値が計算され、全体的な分類精度にほとんど影響を与えずに公平性が向上していることがわかります。
因果モデリングは直感的であるため、これを使用すると説明可能性が高まり、AI のさまざまな関係者間の信頼が促進されます。

要約(オリジナル)

This paper proposes the use of causal modeling to detect and mitigate algorithmic bias that is nonlinear in the protected attribute. We provide a general overview of our approach. We use the German Credit data set, which is available for download from the UC Irvine Machine Learning Repository, to develop (1) a prediction model, which is treated as a black box, and (2) a causal model for bias mitigation. In this paper, we focus on age bias and the problem of binary classification. We show that the probability of getting correctly classified as ‘low risk’ is lowest among young people. The probability increases with age nonlinearly. To incorporate the nonlinearity into the causal model, we introduce a higher order polynomial term. Based on the fitted causal model, the de-biased probability estimates are computed, showing improved fairness with little impact on overall classification accuracy. Causal modeling is intuitive and, hence, its use can enhance explicability and promotes trust among different stakeholders of AI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google