Mitigating Membership Inference Vulnerability in Personalized Federated Learning

要約

Federated Learning（FL）は、クライアントの個人データを共有する必要なく、共同モデルトレーニングの有望なパラダイムとして浮上しており、それによってプライバシーを維持しています。
ただし、クライアントのデータの非IID性は、FLに大きな課題をもたらし、パーソナライズされたフェデレーション学習（PFL）方法の重要性を強調しています。
PFLでは、人口データに存在する特定の特徴分布に対応するようにモデルが訓練されています。
PFLの顕著な方法は、クライアントを同様のデータ分布とグループ化することにより、非IID性に関連する懸念を軽減する反復的なフェデレーションクラスタリングアルゴリズム（IFCA）です。
IFCAは精度と公平性の両方を向上させることが示されていますが、人口をより小さなクラスターに分割する戦略は、特にトレーニングサンプルが限られている少数派のメンバーシップ推論攻撃（MIA）に対する脆弱性を高めます。
この論文では、MIAリスク評価をクラスタリングプロセスに統合するIFCAの改良バージョンであるIFCA-MIRを紹介します。
モデルのパフォーマンスとMIAの脆弱性の両方に基づいてクライアントがクラスターを選択できるようにすると、IFCA-MIRは、正確性、公平性、プライバシーに関してパフォーマンスの向上を実現します。
IFCA-MIRは、元のIFCAとして同等のモデルの精度と公平性を維持しながら、MIAリスクを大幅に減らすことを実証します。

要約(オリジナル)

Federated Learning (FL) has emerged as a promising paradigm for collaborative model training without the need to share clients’ personal data, thereby preserving privacy. However, the non-IID nature of the clients’ data introduces major challenges for FL, highlighting the importance of personalized federated learning (PFL) methods. In PFL, models are trained to cater to specific feature distributions present in the population data. A notable method for PFL is the Iterative Federated Clustering Algorithm (IFCA), which mitigates the concerns associated with the non-IID-ness by grouping clients with similar data distributions. While it has been shown that IFCA enhances both accuracy and fairness, its strategy of dividing the population into smaller clusters increases vulnerability to Membership Inference Attacks (MIA), particularly among minorities with limited training samples. In this paper, we introduce IFCA-MIR, an improved version of IFCA that integrates MIA risk assessment into the clustering process. Allowing clients to select clusters based on both model performance and MIA vulnerability, IFCA-MIR achieves an improved performance with respect to accuracy, fairness, and privacy. We demonstrate that IFCA-MIR significantly reduces MIA risk while maintaining comparable model accuracy and fairness as the original IFCA.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google