Leveraging Label Information for Stealthy Data Stealing in Vertical Federated Learning

要約

私たちは、現在の検出メカニズムを回避する新しい攻撃戦略である DMAVFL を開発します。
重要なアイデアは、ラベル情報 (以前の攻撃では完全に無視されました) を最大限に活用する補助分類子と識別子を統合することです。一方で、ラベル情報は、異なるクラスからのサンプルの埋め込みをより適切に特徴付けるのに役立ち、改善された結果をもたらします。
再建パフォーマンス。
一方、ラベル情報を使用して悪意のある勾配を計算すると、正規のトレーニングをよりよく模倣できるため、悪意のある勾配と正規の勾配を区別できなくなり、攻撃がよりステルスになります。
私たちの包括的な実験では、DMAVFL が既存の攻撃を大幅に上回り、悪意のある攻撃に対する SOTA 防御をうまく回避できることが実証されました。
追加のアブレーション研究と他の防御機能の評価により、DMAVFL の堅牢性と有効性がさらに強調されています。

要約(オリジナル)

We develop DMAVFL, a novel attack strategy that evades current detection mechanisms. The key idea is to integrate a discriminator with auxiliary classifier that takes a full advantage of the label information (which was completely ignored in previous attacks): on one hand, label information helps to better characterize embeddings of samples from distinct classes, yielding an improved reconstruction performance; on the other hand, computing malicious gradients with label information better mimics the honest training, making the malicious gradients indistinguishable from the honest ones, and the attack much more stealthy. Our comprehensive experiments demonstrate that DMAVFL significantly outperforms existing attacks, and successfully circumvents SOTA defenses for malicious attacks. Additional ablation studies and evaluations on other defenses further underscore the robustness and effectiveness of DMAVFL.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google