Fairness Without Demographics in Human-Centered Federated Learning

要約

フェデレーテッド・ラーニング（FL）は、データのプライバシーを守りながら協調的なモデル学習を可能にし、人間中心の分散型AIアプリケーションに適している。しかし、このようなシステムにおいて公平性を確保するには、大きな研究ギャップが残っている。現在のFLにおける公平性戦略は、バイアスを生じさせる／敏感な属性に関する知識を必要とし、FLのプライバシー原則と衝突する。さらに、人間中心のデータセットでは、敏感な属性は潜在的なままである可能性がある。これらの課題に取り組むため、我々は機械学習における「人口統計によらない公平性」に着想を得た、新しい偏り緩和アプローチを提示する。本アプローチは、訓練中にヘシアン行列の上部の固有値を最小化することにより、敏感な属性の知識を必要とせずに公平性を達成し、FL参加者間の公平な損失景観を保証する。特に、エラー率と損失ランドスケープの曲率属性に基づいて参加モデルを促進する新しいFL集約スキームを導入し、FLシステム全体の公平性を促進する。この研究は、人間中心のFLにおいて「人口統計によらない公平性」を達成するための最初のアプローチである。包括的な評価を通じて、我々のアプローチは、様々な実世界のアプリケーション、FLセットアップ、および単一または複数のバイアス誘発因子を含むシナリオにおいて、公平性と有効性のバランスをとる有効性を実証し、人間中心のFLにおける重要な進歩を示す。

要約(オリジナル)

Federated learning (FL) enables collaborative model training while preserving data privacy, making it suitable for decentralized human-centered AI applications. However, a significant research gap remains in ensuring fairness in these systems. Current fairness strategies in FL require knowledge of bias-creating/sensitive attributes, clashing with FL’s privacy principles. Moreover, in human-centered datasets, sensitive attributes may remain latent. To tackle these challenges, we present a novel bias mitigation approach inspired by ‘Fairness without Demographics’ in machine learning. The presented approach achieves fairness without needing knowledge of sensitive attributes by minimizing the top eigenvalue of the Hessian matrix during training, ensuring equitable loss landscapes across FL participants. Notably, we introduce a novel FL aggregation scheme that promotes participating models based on error rates and loss landscape curvature attributes, fostering fairness across the FL system. This work represents the first approach to attaining ‘Fairness without Demographics’ in human-centered FL. Through comprehensive evaluation, our approach demonstrates effectiveness in balancing fairness and efficacy across various real-world applications, FL setups, and scenarios involving single and multiple bias-inducing factors, representing a significant advancement in human-centered FL.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL