FRAPPE: A Group Fairness Framework for Post-Processing Everything

要約

有望な公平性とエラーのトレードオフを達成しているにもかかわらず、グループの公平性のための処理中の緩和手法は、計算リソースが限られている、または予測モデルのトレーニング パイプラインにアクセスできない多くの実際のアプリケーションでは採用できません。
このような状況では、後処理が実行可能な代替手段となります。
ただし、現在の方法は特定の問題設定と公平性の定義に合わせて調整されているため、処理中ほど広範囲に適用できるわけではありません。
この研究では、正規化された処理中メソッドを後処理アプローチに変えるフレームワークを提案します。
この手順は、以前の後処理文献よりもはるかに広範囲の問題設定に対する後処理技術を取得する方法を規定します。
私たちは、理論的かつ広範な実験を通じて、私たちのフレームワークが処理内で達成される公平性とエラーの良好なトレードオフを維持し、以前の後処理方法の有効性を改善できることを示しています。
最後に、部分的なグループ ラベルを持つタスクのパフォーマンスの向上など、予測モデルのトレーニングと公平性の緩和を分離するモジュール型の緩和戦略のいくつかの利点を示します。

要約(オリジナル)

Despite achieving promising fairness-error trade-offs, in-processing mitigation techniques for group fairness cannot be employed in numerous practical applications with limited computation resources or no access to the training pipeline of the prediction model. In these situations, post-processing is a viable alternative. However, current methods are tailored to specific problem settings and fairness definitions and hence, are not as broadly applicable as in-processing. In this work, we propose a framework that turns any regularized in-processing method into a post-processing approach. This procedure prescribes a way to obtain post-processing techniques for a much broader range of problem settings than the prior post-processing literature. We show theoretically and through extensive experiments that our framework preserves the good fairness-error trade-offs achieved with in-processing and can improve over the effectiveness of prior post-processing methods. Finally, we demonstrate several advantages of a modular mitigation strategy that disentangles the training of the prediction model from the fairness mitigation, including better performance on tasks with partial group labels.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google