Dual-Flow: Transferable Multi-Target, Instance-Agnostic Attacks via In-the-wild Cascading Flow Optimization

要約

敵対的な攻撃は、モデルの堅牢性を評価するために広く使用されており、ブラックボックスシナリオでは、これらの攻撃の移動性が重要になります。
既存のジェネレーターベースの攻撃には、インスタンスに依存しない性質のために、優れた一般化と転送可能性があります。
ただし、マルチターゲットタスクのジェネレーターをトレーニングする場合、モデルの容量の制限により、転送攻撃の成功率は比較的低くなります。
これらの課題に対処するために、カスケード分布シフトトレーニングを利用して敵対的速度関数を開発するために、マルチターゲットインスタンスに依存しない敵対攻撃のための新しいデュアルフローフレームワークを提案します。
広範な実験は、デュアルフローが以前のマルチターゲット生成攻撃にわたって譲渡可能性を大幅に改善することを示しています。
たとえば、Inception-V3からResNet-152に成功率を34.58％増加させます。
さらに、攻撃方法は、敵対的に訓練されたモデルなど、防御メカニズムに対する堅牢性が大幅に強いことを示しています。

要約(オリジナル)

Adversarial attacks are widely used to evaluate model robustness, and in black-box scenarios, the transferability of these attacks becomes crucial. Existing generator-based attacks have excellent generalization and transferability due to their instance-agnostic nature. However, when training generators for multi-target tasks, the success rate of transfer attacks is relatively low due to the limitations of the model’s capacity. To address these challenges, we propose a novel Dual-Flow framework for multi-target instance-agnostic adversarial attacks, utilizing Cascading Distribution Shift Training to develop an adversarial velocity function. Extensive experiments demonstrate that Dual-Flow significantly improves transferability over previous multi-target generative attacks. For example, it increases the success rate from Inception-v3 to ResNet-152 by 34.58%. Furthermore, our attack method shows substantially stronger robustness against defense mechanisms, such as adversarially trained models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google