Celtibero: Robust Layered Aggregation for Federated Learning

要約

Federated Learning (FL) は、分散型機械学習への革新的なアプローチです。
FL はプライバシーに大きな利点をもたらしますが、特に攻撃者がローカル モデルの更新を意図的に操作してモデルのパフォーマンスを低下させたり、隠れたバックドアを導入したりするポイズニング攻撃など、セキュリティ上の課題にも直面しています。
これらの攻撃に対する既存の防御策は、ノード上のデータが同一かつ独立して分散されている (i.i.d.) 場合には効果的であることが示されていますが、制限が緩い非 i.i.d データ条件では失敗することがよくあります。
これらの制限を克服するために、階層化された集約を統合して敵対的な操作に対する堅牢性を強化する新しい防御メカニズムである Celtibero を導入します。
MNIST および IMDB データセットに関する広範な実験を通じて、Celtibero がさまざまな非標的攻撃および標的型ポイズニング攻撃にわたって最小限の攻撃成功率 (ASR) を維持しながら、高いメインタスク精度 (MTA) を一貫して達成していることを実証しました。
私たちの結果は、FL-Defender、LFighter、FLAME などの既存の防御よりも Celtibero の優位性を強調し、高度なポイズニング攻撃からフェデレーテッド ラーニング システムを保護するための非常に効果的なソリューションとして確立しています。

要約(オリジナル)

Federated Learning (FL) is an innovative approach to distributed machine learning. While FL offers significant privacy advantages, it also faces security challenges, particularly from poisoning attacks where adversaries deliberately manipulate local model updates to degrade model performance or introduce hidden backdoors. Existing defenses against these attacks have been shown to be effective when the data on the nodes is identically and independently distributed (i.i.d.), but they often fail under less restrictive, non-i.i.d data conditions. To overcome these limitations, we introduce Celtibero, a novel defense mechanism that integrates layered aggregation to enhance robustness against adversarial manipulation. Through extensive experiments on the MNIST and IMDB datasets, we demonstrate that Celtibero consistently achieves high main task accuracy (MTA) while maintaining minimal attack success rates (ASR) across a range of untargeted and targeted poisoning attacks. Our results highlight the superiority of Celtibero over existing defenses such as FL-Defender, LFighter, and FLAME, establishing it as a highly effective solution for securing federated learning systems against sophisticated poisoning attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google