FairShap: A Data Re-weighting Approach for Algorithmic Fairness based on Shapley Values

要約

本論文では、データ評価による公正なアルゴリズム意思決定のための、新規かつ解釈可能な前処理（再重量化）手法であるFairShapを提案します。FairShapは、ゲーム理論で有名な数学的枠組みであるシャプレー値に基づいており、リソースの公平な配分を実現することができます。我々のアプローチは、事前に定義された公平性の指標に対する各トレーニングデータの寄与度を測定するため、容易に解釈可能である。我々は、異なる性質の、異なる訓練シナリオとモデルを持つ複数の最新データセットでFairShapを実証的に検証した。提案されたアプローチは他の方法を凌駕し、同程度の精度で著しく公平なモデルを得ることができた。さらに、ヒストグラムと潜在空間の可視化により、FairShapの解釈可能性を説明する。我々は、この研究が、アルゴリズムの公正さに対する解釈可能でモデルに依存しないアプローチにおいて、有望な方向性を示すと信じている。

要約(オリジナル)

In this paper, we propose FairShap, a novel and interpretable pre-processing (re-weighting) method for fair algorithmic decision-making through data valuation. FairShap is based on the Shapley Value, a well-known mathematical framework from game theory to achieve a fair allocation of resources. Our approach is easily interpretable, as it measures the contribution of each training data point to a predefined fairness metric. We empirically validate FairShap on several state-of-the-art datasets of different nature, with different training scenarios and models. The proposed approach outperforms other methods, yielding significantly fairer models with similar levels of accuracy. In addition, we illustrate FairShap’s interpretability by means of histograms and latent space visualizations. We believe this work represents a promising direction in interpretable, model-agnostic approaches to algorithmic fairness.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL