Adversarial Sticker: A Stealthy Attack Method in the Physical World

要約

物理的な世界での深層学習の脆弱性を評価するために、最近の研究では敵対的なパッチを導入し、さまざまなタスクに適用しています。
この論文では、別の種類の敵対的パッチを提案します。これは、私たちの生活に存在する実際のステッカーを使用した、物理的に実行可能でステルスな攻撃方法です。
摂動を設計することによる以前の敵対的パッチとは異なり、私たちの方法はオブジェクト上のステッカーの貼り付け位置と回転角度を操作して物理的な攻撃を実行します。
位置と回転角度は、印刷の損失や色の歪みの影響を受けにくいため、敵対的なステッカーは、物理的な世界で良好な攻撃パフォーマンスを維持できます。
また、敵対的ステッカーを実際のシーンでより実用的にするために、脅威モデルのすべての詳細を含むホワイトボックス設定ではなく、限られた情報を含むブラックボックス設定で攻撃を行います。
ステッカーのパラメーターを効果的に解決するために、効果的なソリューションの新たに発見された地域集約と評価基準の適応調整戦略を利用する、地域ベースのヒューリスティック差分進化アルゴリズムを設計します。
我々の方法は、顔認識で包括的に検証され、画像検索と交通標識認識に拡張されています。
広範な実験により、提案された方法が複雑な物理的条件で効果的かつ効率的であり、さまざまなタスクに対して適切に一般化できることが示されています。

要約(オリジナル)

To assess the vulnerability of deep learning in the physical world, recent works introduce adversarial patches and apply them on different tasks. In this paper, we propose another kind of adversarial patch: the Meaningful Adversarial Sticker, a physically feasible and stealthy attack method by using real stickers existing in our life. Unlike the previous adversarial patches by designing perturbations, our method manipulates the sticker’s pasting position and rotation angle on the objects to perform physical attacks. Because the position and rotation angle are less affected by the printing loss and color distortion, adversarial stickers can keep good attacking performance in the physical world. Besides, to make adversarial stickers more practical in real scenes, we conduct attacks in the black-box setting with the limited information rather than the white-box setting with all the details of threat models. To effectively solve for the sticker’s parameters, we design the Region based Heuristic Differential Evolution Algorithm, which utilizes the new-found regional aggregation of effective solutions and the adaptive adjustment strategy of the evaluation criteria. Our method is comprehensively verified in the face recognition and then extended to the image retrieval and traffic sign recognition. Extensive experiments show the proposed method is effective and efficient in complex physical conditions and has a good generalization for different tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google