Causal Fairness-Guided Dataset Reweighting using Neural Networks

要約

機械学習モデルで公平性を達成することの重要性は、どれだけ強調してもしすぎることはありません。
最近の研究では、公平性は因果関係の観点から検討されるべきであることが指摘されており、パールの因果関係の枠組みに基づいたいくつかの公平性の概念が提案されています。
この論文では、因果的公平性に対処するためにデータセットの再重み付けスキームを構築します。
私たちのアプローチは、変数間の因果関係を考慮し、それらを再重み付けプロセスに組み込むことでバイアスを軽減することを目的としています。
提案手法は 2 つのニューラル ネットワークを採用しており、その構造は因果グラフと介入グラフの構造を反映するために意図的に使用されています。
2 つのニューラル ネットワークは、データの因果モデルと介入の因果モデルを近似できます。
さらに、さまざまな公平性の概念を実現するために、ディスクリミネーターによる再重み付けが適用されます。
現実世界のデータセットでの実験では、私たちの方法が下流タスクの元のデータに近い状態を維持しながら、データの因果的公平性を達成できることが示されています。

要約(オリジナル)

The importance of achieving fairness in machine learning models cannot be overstated. Recent research has pointed out that fairness should be examined from a causal perspective, and several fairness notions based on the on Pearl’s causal framework have been proposed. In this paper, we construct a reweighting scheme of datasets to address causal fairness. Our approach aims at mitigating bias by considering the causal relationships among variables and incorporating them into the reweighting process. The proposed method adopts two neural networks, whose structures are intentionally used to reflect the structures of a causal graph and of an interventional graph. The two neural networks can approximate the causal model of the data, and the causal model of interventions. Furthermore, reweighting guided by a discriminator is applied to achieve various fairness notions. Experiments on real-world datasets show that our method can achieve causal fairness on the data while remaining close to the original data for downstream tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google