A Canonical Data Transformation for Achieving Inter- and Within-group Fairness

要約

機密データを扱うアプリケーション向けの機械学習アルゴリズムの導入の増加により、機械学習の公平性の問題が注目されるようになりました。
さまざまな人口統計グループを公平に扱うことを必要とするアプリケーションに多くの研究が捧げられてきました。
ただし、グループ間の公平性 (グループ公平性とも呼ばれる) を満たすことを目的としたアルゴリズムでは、同じ人口統計グループ内の個人を不注意に不公平に扱う可能性があります。
この問題に対処するために、同じグループ内の個人間の公平性を維持するグループ内公平性の正式な定義を導入します。
私たちは、精度をほとんど損なうことなく、グループ間およびグループ内の両方の公平性基準を満たす前処理フレームワークを提案します。
このフレームワークは、さまざまなグループのメンバーの特徴ベクトルを、スコアリング関数に入力する前に、グループ間の公平な標準ドメインにマッピングします。
このマッピングは、同じ人口統計グループの個人の未処理の特徴ベクトルから取得されたスコア間の相対関係を保存するように構築され、グループ内の公平性が保証されます。
このフレームワークを COMPAS のリスク評価とロースクールのデータセットに適用し、グループ間およびグループ内の公平性の達成におけるパフォーマンスを 2 つの正則化ベースの手法と比較します。

要約(オリジナル)

Increases in the deployment of machine learning algorithms for applications that deal with sensitive data have brought attention to the issue of fairness in machine learning. Many works have been devoted to applications that require different demographic groups to be treated fairly. However, algorithms that aim to satisfy inter-group fairness (also called group fairness) may inadvertently treat individuals within the same demographic group unfairly. To address this issue, we introduce a formal definition of within-group fairness that maintains fairness among individuals from within the same group. We propose a pre-processing framework to meet both inter- and within-group fairness criteria with little compromise in accuracy. The framework maps the feature vectors of members from different groups to an inter-group-fair canonical domain before feeding them into a scoring function. The mapping is constructed to preserve the relative relationship between the scores obtained from the unprocessed feature vectors of individuals from the same demographic group, guaranteeing within-group fairness. We apply this framework to the COMPAS risk assessment and Law School datasets and compare its performance in achieving inter-group and within-group fairness to two regularization-based methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google