Adversarial Zoom Lens: A Novel Physical-World Attack to DNNs

要約

ディープ ニューラル ネットワーク (DNN) は壊れやすいことが知られていますが、物理世界の画像のズームインとズームアウトが DNN のパフォーマンスに及ぼす影響を研究した人は誰もいません。
この論文では、Adversarial Zoom Lens (Adversarial Zoom Lens (AdvZL)) と呼ばれる新しい物理的敵対的攻撃手法を実証します。これは、ズーム レンズを使用して物理世界の写真をズームインおよびズームアウトし、ターゲット オブジェクトの特性を変更することなく DNN を欺きます。
提案された方法は、これまでのところ、物理的な敵対的摂動攻撃 DNN を追加しない唯一の敵対的攻撃手法です。
デジタル環境においては、等倍拡大画像とDNNの拮抗性を検証するためにAdvZLに基づいたデータセットを構築します。
物理環境では、ズームレンズを操作してターゲットオブジェクトをズームインおよびズームアウトし、敵対的なサンプルを生成します。
実験結果は、デジタル環境と物理環境の両方における AdvZL ​​の有効性を示しています。
提案されたデータセットの改良された DNN に対する拮抗作用をさらに分析します。
一方、私たちは敵対的トレーニングによる AdvZL ​​に対する防御のガイドラインを提供します。
最後に、将来の自動運転に対する提案されたアプローチの脅威の可能性と、提案された攻撃に似た亜種の攻撃アイデアを検討します。

要約(オリジナル)

Although deep neural networks (DNNs) are known to be fragile, no one has studied the effects of zooming-in and zooming-out of images in the physical world on DNNs performance. In this paper, we demonstrate a novel physical adversarial attack technique called Adversarial Zoom Lens (AdvZL), which uses a zoom lens to zoom in and out of pictures of the physical world, fooling DNNs without changing the characteristics of the target object. The proposed method is so far the only adversarial attack technique that does not add physical adversarial perturbation attack DNNs. In a digital environment, we construct a data set based on AdvZL to verify the antagonism of equal-scale enlarged images to DNNs. In the physical environment, we manipulate the zoom lens to zoom in and out of the target object, and generate adversarial samples. The experimental results demonstrate the effectiveness of AdvZL in both digital and physical environments. We further analyze the antagonism of the proposed data set to the improved DNNs. On the other hand, we provide a guideline for defense against AdvZL by means of adversarial training. Finally, we look into the threat possibilities of the proposed approach to future autonomous driving and variant attack ideas similar to the proposed attack.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google