Adversarial Catoptric Light: An Effective, Stealthy and Robust Physical-World Attack to DNNs

要約

ディープ ニューラル ネットワーク (DNN) は、さまざまなタスクにわたって優れた成功を収めていることが実証されており、高度な DNN の堅牢性を評価する必要性が強調されています。
しかし、物理的な摂動としてステッカーを使用して分類子を欺く従来の方法では、ステルス性を達成する上で課題があり、印刷ロスが発生します。
最近の物理的攻撃の進歩では、レーザーやプロジェクターなどの光線を利用して攻撃が行われており、生成される光学パターンは自然ではなく人工的なものになっています。
この研究では、新しい物理攻撃である敵対的反射光 (AdvCL) を導入します。この攻撃では、一般的な自然現象である反射光を使用して敵対的摂動が生成され、ブラック ボックス設定で高度な DNN に対するステルスで自然主義的な敵対攻撃を実現します。
提案手法を有効性、ステルス性、堅牢性の 3 つの側面で評価します。
シミュレーション環境で得られた定量的な結果は、提案手法の有効性を示しており、物理シナリオでは、ベースラインを上回る 83.5% の攻撃成功率を達成しました。
一般的な反射光を摂動として使用して、メソッドのステルス性を高め、物理サンプルをより自然に見せます。
堅牢性は、高度で堅牢な DNN への攻撃に成功し、すべてのケースで 80% 以上の成功率で検証されます。
さらに、AdvCL に対する防御戦略について議論し、いくつかの光ベースの物理攻撃を提案します。

要約(オリジナル)

Deep neural networks (DNNs) have demonstrated exceptional success across various tasks, underscoring the need to evaluate the robustness of advanced DNNs. However, traditional methods using stickers as physical perturbations to deceive classifiers present challenges in achieving stealthiness and suffer from printing loss. Recent advancements in physical attacks have utilized light beams such as lasers and projectors to perform attacks, where the optical patterns generated are artificial rather than natural. In this study, we introduce a novel physical attack, adversarial catoptric light (AdvCL), where adversarial perturbations are generated using a common natural phenomenon, catoptric light, to achieve stealthy and naturalistic adversarial attacks against advanced DNNs in a black-box setting. We evaluate the proposed method in three aspects: effectiveness, stealthiness, and robustness. Quantitative results obtained in simulated environments demonstrate the effectiveness of the proposed method, and in physical scenarios, we achieve an attack success rate of 83.5%, surpassing the baseline. We use common catoptric light as a perturbation to enhance the stealthiness of the method and make physical samples appear more natural. Robustness is validated by successfully attacking advanced and robust DNNs with a success rate over 80% in all cases. Additionally, we discuss defense strategy against AdvCL and put forward some light-based physical attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google