Intersectional Fairness: A Fractal Approach

要約

AIの公平性の問題は、近年ますます注目を集めています。
この問題は、さまざまな保護属性 (民族性、性別など) を個別に調べることによってアプローチできますが、個々の保護属性の公平性は、交差する公平性を意味するものではありません。
この作業では、幾何学的設定内での交差公平性の問題を組み立てます。
データをハイパーキューブに投影し、公平性の分析をレベルごとに分割します。各レベルは、交差している保護された属性の数をエンコードします。
公平性はレベルの「下」には伝播しないが、レベルの「上」には伝播することを数学的に証明します。
これは、最低の交差レベル (黒人女性、白人女性、黒人男性、白人男性など) ですべてのサブグループの公平性を保証することは、必然的に、保護された各属性 (民族性など) を含む上記のすべてのレベルの公平性をもたらすことを意味します。
および性別）独立して撮影。
また、完全な公平性を仮定して、各レベルでの推定成功率のセットの分散を表す式を導き出します。
この理論上の発見をベンチマークとして使用して、全体的な交差バイアスを捉える一連の指標を定義します。
最後に、公平性は比喩的に「フラクタル」問題として考えられることを提案します。
フラクタルでは、最小スケールのパターンがより大きなスケールで繰り返されます。
この例からわかるように、ボトムアップで可能な限り低いレベルで問題に取り組むことが、公正な AI の自然な出現につながります。
信頼性は、必然的に AI システムの創発的、フラクタル、およびリレーショナル プロパティであることを提案します。

要約(オリジナル)

The issue of fairness in AI has received an increasing amount of attention in recent years. The problem can be approached by looking at different protected attributes (e.g., ethnicity, gender, etc) independently, but fairness for individual protected attributes does not imply intersectional fairness. In this work, we frame the problem of intersectional fairness within a geometrical setting. We project our data onto a hypercube, and split the analysis of fairness by levels, where each level encodes the number of protected attributes we are intersecting over. We prove mathematically that, while fairness does not propagate ‘down’ the levels, it does propagate ‘up’ the levels. This means that ensuring fairness for all subgroups at the lowest intersectional level (e.g., black women, white women, black men and white men), will necessarily result in fairness for all the above levels, including each of the protected attributes (e.g., ethnicity and gender) taken independently. We also derive a formula describing the variance of the set of estimated success rates on each level, under the assumption of perfect fairness. Using this theoretical finding as a benchmark, we define a family of metrics which capture overall intersectional bias. Finally, we propose that fairness can be metaphorically thought of as a ‘fractal’ problem. In fractals, patterns at the smallest scale repeat at a larger scale. We see from this example that tackling the problem at the lowest possible level, in a bottom-up manner, leads to the natural emergence of fair AI. We suggest that trustworthiness is necessarily an emergent, fractal and relational property of the AI system.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google