BaBE: Enhancing Fairness via Estimation of Latent Explaining Variables

要約

2つのグループ間の不当な差別の問題を考察し、公平性を達成するための前処理方法を提案します。
統計的パリティのような修正方法は通常、精度が悪く、決定を決定する必要がある機密属性 S と正当な属性 E (説明変数) の間に相関関係がある状況では公平性を実際には達成できません。
これらの欠点を克服するために、他の公平性の概念、特に条件付き統計的パリティと機会均等が提案されています。
ただし、E はデータ内で直接観察できないことがよくあります。つまり、E は潜在変数です。
E を表す他の変数 Z が観察される可能性がありますが、問題は、Z も S の影響を受ける可能性があるため、Z 自体にバイアスがかかる可能性があることです。
この問題に対処するために、ベイズ推論と期待値最大化法の組み合わせに基づくアプローチである BaBE (ベイジアン バイアス除去) を提案し、各グループの特定の Z に対する最も可能性の高い E の値を推定します。
その後、決定は推定された E に直接基づいて行うことができます。合成データセットと実際のデータセットの実験によって、私たちのアプローチが高い精度だけでなく良好なレベルの公平性を提供することを示します。

要約(オリジナル)

We consider the problem of unfair discrimination between two groups and propose a pre-processing method to achieve fairness. Corrective methods like statistical parity usually lead to bad accuracy and do not really achieve fairness in situations where there is a correlation between the sensitive attribute S and the legitimate attribute E (explanatory variable) that should determine the decision. To overcome these drawbacks, other notions of fairness have been proposed, in particular, conditional statistical parity and equal opportunity. However, E is often not directly observable in the data, i.e., it is a latent variable. We may observe some other variable Z representing E, but the problem is that Z may also be affected by S, hence Z itself can be biased. To deal with this problem, we propose BaBE (Bayesian Bias Elimination), an approach based on a combination of Bayes inference and the Expectation-Maximization method, to estimate the most likely value of E for a given Z for each group. The decision can then be based directly on the estimated E. We show, by experiments on synthetic and real data sets, that our approach provides a good level of fairness as well as high accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google