Learning to Backdoor Federated Learning

要約

連合学習（FL）システムにおいて、悪意のある参加者は、メインタスクに対するモデルの性能を維持したまま、集約されたモデルにバックドアを簡単に埋め込むことができます。このため、近年、訓練段階の集約に基づく防御や訓練後の緩和防御など、様々な防御が提案されている。これらの防御は、主にヒューリスティックに基づく既存のバックドア攻撃に対して妥当な性能を得るが、より高度な攻撃の前では不十分であることが示される。特に、我々は一般的な強化学習ベースのバックドア攻撃フレームワークを提案し、攻撃者はまず、ローカルデータとFLシステムに関する共通知識を基に構築されたシミュレータを使用して（非ミーピング）攻撃ポリシーを訓練し、それを実際のFL訓練中に適用する。本攻撃フレームワークは、適応性と柔軟性を兼ね備えており、最先端の防御の下でも強力な攻撃性能と耐久性を達成することができる。

要約(オリジナル)

In a federated learning (FL) system, malicious participants can easily embed backdoors into the aggregated model while maintaining the model’s performance on the main task. To this end, various defenses, including training stage aggregation-based defenses and post-training mitigation defenses, have been proposed recently. While these defenses obtain reasonable performance against existing backdoor attacks, which are mainly heuristics based, we show that they are insufficient in the face of more advanced attacks. In particular, we propose a general reinforcement learning-based backdoor attack framework where the attacker first trains a (non-myopic) attack policy using a simulator built upon its local data and common knowledge on the FL system, which is then applied during actual FL training. Our attack framework is both adaptive and flexible and achieves strong attack performance and durability even under state-of-the-art defenses.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL