Equalised Odds is not Equal Individual Odds: Post-processing for Group and Individual Fairness

要約

タイトル：Equalised Oddsは個々のオッズにはならない：グループと個人の公正さのためのポストプロセッシング
要約：
– グループの公正さは、保護されたサブポピュレーション間の予測分布を均等化することで達成される。
– 個人の公正さは、類似した個人を同じように扱うことが必要である。
– しかしながら、スコアリングモデルが不連続な確率関数を介してキャリブレーションされた場合、個人は固定された確率によって決定される結果をランダムに割り当てられるため、同じ保護されたグループからの2人の似たような個人が、異なる分類オッズを持つ可能性があり、これは個人の公正性の明らかな違反である。
– 各保護されたサブポピュレーションに固有のオッズを割り当てることも、1つのサブポピュレーションのメンバーが他のサブポピュレーションと同じようにポジティブな結果の等しい可能性を持つことを常に妨げることがある。これは、個人のオッズと呼ばれる別の種類の不公正である。
– 私たちは、グループの閾値間の連続的な確率関数を構築し、それらのLipschitz定数によって制約されることでこれを調整することによって、これらすべてを調和させる。
– 私たちの解決策は、モデルの予測能力、個人の公平性、堅牢性を保護しながら、グループの公平性を確保する。

要約(オリジナル)

Group fairness is achieved by equalising prediction distributions between protected sub-populations; individual fairness requires treating similar individuals alike. These two objectives, however, are incompatible when a scoring model is calibrated through discontinuous probability functions, where individuals can be randomly assigned an outcome determined by a fixed probability. This procedure may provide two similar individuals from the same protected group with classification odds that are disparately different — a clear violation of individual fairness. Assigning unique odds to each protected sub-population may also prevent members of one sub-population from ever receiving equal chances of a positive outcome to another, which we argue is another type of unfairness called individual odds. We reconcile all this by constructing continuous probability functions between group thresholds that are constrained by their Lipschitz constant. Our solution preserves the model’s predictive power, individual fairness and robustness while ensuring group fairness.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI