Fortify the Guardian, Not the Treasure: Resilient Adversarial Detectors

要約

このペーパーでは、分類器のパフォーマンスを維持しながら、適応型攻撃に対する敵対的検出器の堅牢性を強化するように設計されたアプローチである、敵対的再トレーニングによる RADAR の堅牢な敵対的検出について説明します。
適応型攻撃とは、攻撃者が防御を認識し、それに応じて戦略を適応させる攻撃です。
私たちが提案する方法は、敵対的トレーニングを利用して、正確さを損なうことなく攻撃を検出する能力を強化します。
トレーニング段階では、分類器と敵対的検出器の両方を欺くように最適化された敵対的サンプルをデータセットに統合し、敵対的検出器が潜在的な攻撃シナリオを学習して適応できるようにします。
CIFAR-10 および SVHN データセットの実験評価は、私たちが提案したアルゴリズムが、クリーンな精度を犠牲にすることなく、適応型敵対的攻撃を正確に識別する検出器の能力を大幅に向上させることを示しています。

要約(オリジナル)

This paper presents RADAR-Robust Adversarial Detection via Adversarial Retraining-an approach designed to enhance the robustness of adversarial detectors against adaptive attacks, while maintaining classifier performance. An adaptive attack is one where the attacker is aware of the defenses and adapts their strategy accordingly. Our proposed method leverages adversarial training to reinforce the ability to detect attacks, without compromising clean accuracy. During the training phase, we integrate into the dataset adversarial examples, which were optimized to fool both the classifier and the adversarial detector, enabling the adversarial detector to learn and adapt to potential attack scenarios. Experimental evaluations on the CIFAR-10 and SVHN datasets demonstrate that our proposed algorithm significantly improves a detector’s ability to accurately identify adaptive adversarial attacks — without sacrificing clean accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google