Distribution-Specific Auditing For Subgroup Fairness

要約

統計的サブグループの公平性の概念を用いた分類器の監査問題を研究する。Kearnsら(2018)は、組合せサブグループの公平性を監査する問題が不可知学習と同じくらい難しいことを示した。基本的に、サブグループに対する差別の統計的尺度を改善するためのすべての研究は、この問題に対する効率的なアルゴリズムが知られていないという事実にもかかわらず、この問題に対するオラクルへのアクセスを前提としている。もしデータ分布がガウス分布、あるいは単に対数共振分布であると仮定するならば、最近の研究では半数空間に対する効率的な不可知論的学習アルゴリズムが発見されている。残念なことに、Kearnsらの漸近法は、弱い「無分布」学習の観点から定式化されたものであり、対数凹分布のような族に対する接続を確立していない。 本研究では、ガウス分布に対する監査について肯定的な結果と否定的な結果を与える：肯定的な面では、不可知論的学習におけるこれらの進歩を活用するための代替アプローチを提示し、それにより、自明でない組合せ部分群の公平性を監査するための最初の多項式時間近似スキーム（PTAS）を得る。否定側では、暗号的な仮定の下で、一般的な半空間部分群に対して、ガウス的な特徴分布の下でさえ、自明でない監査を保証する多項式時間アルゴリズムは存在しないことを見出す。

要約(オリジナル)

We study the problem of auditing classifiers with the notion of statistical subgroup fairness. Kearns et al. (2018) has shown that the problem of auditing combinatorial subgroups fairness is as hard as agnostic learning. Essentially all work on remedying statistical measures of discrimination against subgroups assumes access to an oracle for this problem, despite the fact that no efficient algorithms are known for it. If we assume the data distribution is Gaussian, or even merely log-concave, then a recent line of work has discovered efficient agnostic learning algorithms for halfspaces. Unfortunately, the reduction of Kearns et al. was formulated in terms of weak, ‘distribution-free’ learning, and thus did not establish a connection for families such as log-concave distributions. In this work, we give positive and negative results on auditing for Gaussian distributions: On the positive side, we present an alternative approach to leverage these advances in agnostic learning and thereby obtain the first polynomial-time approximation scheme (PTAS) for auditing nontrivial combinatorial subgroup fairness: we show how to audit statistical notions of fairness over homogeneous halfspace subgroups when the features are Gaussian. On the negative side, we find that under cryptographic assumptions, no polynomial-time algorithm can guarantee any nontrivial auditing, even under Gaussian feature distributions, for general halfspace subgroups.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL