Chameleon: Adapting to Peer Images for Planting Durable Backdoors in Federated Learning

要約

タイトル：Peart Imagesに適応して耐久性のあるバックドアを植え付けるためのカメレオンフェデレーテッドラーニング

要約：

– Federated Learning（FL）システムでは、分散クライアントがローカルモデルを中央サーバーにアップロードしてグローバルモデルに集約します。
– 悪意のあるクライアントは、毒されたローカルモデルをアップロードしてグローバルモデルにバックドアを植え付けて、特定のパターンを持つ画像をいくつかのターゲットレーベルに誤分類させることができます。
– 現在の攻撃によって植え付けられたバックドアは耐久性がなく、攻撃者がモデルの汚染をやめるとすぐに消えます。
– 本論文では、FLバックドアの耐久性と健全な画像と毒された画像（つまり、ローカルトレーニング中にターゲットラベルに反転された画像）の間の関係について調査します。
– 具体的には、毒された画像の元のラベルとターゲットラベルを持つ健全な画像がバックドアの耐久性に重要な影響を与えることがわかります。
– したがって、コントラスティブラーニングを利用したChameleonという新しい攻撃を提案し、このような影響をより耐久性のあるバックドアに向けて強化することを試みました。
– 広範な実験により、Chameleonが幅広い画像データセット、バックドアのタイプ、およびモデルアーキテクチャにおいて、基線に比べてバックドアの寿命を1.2倍から4倍延長することが明らかになりました。

要約(オリジナル)

In a federated learning (FL) system, distributed clients upload their local models to a central server to aggregate into a global model. Malicious clients may plant backdoors into the global model through uploading poisoned local models, causing images with specific patterns to be misclassified into some target labels. Backdoors planted by current attacks are not durable, and vanish quickly once the attackers stop model poisoning. In this paper, we investigate the connection between the durability of FL backdoors and the relationships between benign images and poisoned images (i.e., the images whose labels are flipped to the target label during local training). Specifically, benign images with the original and the target labels of the poisoned images are found to have key effects on backdoor durability. Consequently, we propose a novel attack, Chameleon, which utilizes contrastive learning to further amplify such effects towards a more durable backdoor. Extensive experiments demonstrate that Chameleon significantly extends the backdoor lifespan over baselines by $1.2\times \sim 4\times$, for a wide range of image datasets, backdoor types, and model architectures.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI