Reconciling Predictive and Statistical Parity: A Causal Approach

要約

公正な機械学習が重要な調査分野として台頭して以来、差別を定量化および測定する方法に関するさまざまな概念が文献で提案されてきました。
ただし、これらの概念の一部は相互に矛盾することが示されました。
このような調査結果は、多数の異なる種類の公平性が存在するように見せかけ、それによって公平性の適切な尺度に関する合意に達することが困難になり、実際にこれらのツールを適用することを妨げます。
この論文では、統計的および予測的パリティの概念に関連する重要な不可能性の結果の 1 つを調査します。
具体的には、予測的パリティに関連する公平性尺度の新しい因果分解式を導き出し、この基準が、異質な扱い、異質な影響、およびビジネス上の必要性の概念を通じて統計的パリティにどのように関連しているかについての新しい洞察を獲得します。
私たちの結果は、より慎重な因果分析を通じて、統計的パリティと予測的パリティの概念は実際には相互排他的ではなく、補完的であり、ビジネス上の必要性の概念を通じて公平性の概念の範囲にまたがるということを示しています。
最後に、実際の例で発見の重要性を示します。

要約(オリジナル)

Since the rise of fair machine learning as a critical field of inquiry, many different notions on how to quantify and measure discrimination have been proposed in the literature. Some of these notions, however, were shown to be mutually incompatible. Such findings make it appear that numerous different kinds of fairness exist, thereby making a consensus on the appropriate measure of fairness harder to reach, hindering the applications of these tools in practice. In this paper, we investigate one of these key impossibility results that relates the notions of statistical and predictive parity. Specifically, we derive a new causal decomposition formula for the fairness measures associated with predictive parity, and obtain a novel insight into how this criterion is related to statistical parity through the legal doctrines of disparate treatment, disparate impact, and the notion of business necessity. Our results show that through a more careful causal analysis, the notions of statistical and predictive parity are not really mutually exclusive, but complementary and spanning a spectrum of fairness notions through the concept of business necessity. Finally, we demonstrate the importance of our findings on a real-world example.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google