Adversarial Laser Spot: Robust and Covert Physical Adversarial Attack to DNNs

要約

ほとんどの既存のディープニューラルネットワーク（DNN）は、わずかなノイズによって簡単に妨害されます。
私たちの知る限り、照明器具を配備することによる物理的な敵対攻撃技術に関する研究はほとんどありません。
光ベースの物理的敵対攻撃技術は優れた秘密性を備えており、ディープニューラルネットワーク（自動運転技術など）に基づく多くのアプリケーションに大きなセキュリティリスクをもたらします。
そこで、遺伝的アルゴリズムによりレーザーポイントの物理パラメータを最適化して物理的敵対攻撃を行う、敵対的レーザーポイント（AdvLS）と呼ばれる、隠れ性に優れた堅牢な物理的敵対攻撃技術を提案します。
低コストのレーザー機器を使用することで、堅牢で秘密の物理的な敵対攻撃を実現します。
私たちが知る限り、AdvLSは、日中に物理的な敵対攻撃を実行できる最初の光ベースの敵対攻撃技術です。
デジタルおよび物理環境での多数の実験は、AdvLSが優れた堅牢性と隠蔽性を備えていることを示しています。
さらに、実験データの詳細な分析を通じて、AdvLSによって生成された敵対的摂動が優れた敵対的攻撃の移行を持っていることがわかります。
実験結果は、AdvLSが高度なディープニューラルネットワークに深刻な干渉を課すことを示しています。提案された物理的な敵対的攻撃技術の注意を呼びかけます。

要約(オリジナル)

Most existing deep neural networks (DNNs) are easily disturbed by slight noise. As far as we know, there are few researches on physical adversarial attack technology by deploying lighting equipment. The light-based physical adversarial attack technology has excellent covertness, which brings great security risks to many applications based on deep neural networks (such as automatic driving technology). Therefore, we propose a robust physical adversarial attack technology with excellent covertness, called adversarial laser point (AdvLS), which optimizes the physical parameters of laser point through genetic algorithm to perform physical adversarial attack. It realizes robust and covert physical adversarial attack by using low-cost laser equipment. As far as we know, AdvLS is the first light-based adversarial attack technology that can perform physical adversarial attacks in the daytime. A large number of experiments in the digital and physical environments show that AdvLS has excellent robustness and concealment. In addition, through in-depth analysis of the experimental data, we find that the adversarial perturbations generated by AdvLS have superior adversarial attack migration. The experimental results show that AdvLS impose serious interference to the advanced deep neural networks, we call for the attention of the proposed physical adversarial attack technology.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google