Embodied Adversarial Attack: A Dynamic Robust Physical Attack in Autonomous Driving

要約

物理的な敵対的攻撃が、特に自動運転におけるセキュリティ クリティカルなシナリオの潜在的なリスクを明らかにするために広範囲に適用されるようになり、環境変化に対する脆弱性も明らかになりました。
物理的敵対的攻撃方法の堅牢ではない性質により、結果的にパフォーマンスが不安定になります。
現実世界での物理的な敵対的攻撃の堅牢性を強化するために、既存の方法のようなオフライン トレーニング方法を介して堅牢な敵対的例を静的に最適化する代わりに、この論文ではまったく新しい堅牢な敵対的攻撃フレームワークである Embodied Adversarial Attack (EAA) を提案します。
動的適応の観点からは、身体化されたインテリジェンスのパラダイムである知覚-決定-制御を採用し、現在の状況に応じて最適な攻撃戦略をリアルタイムで動的に調整することを目的としています。
知覚モジュールについては、被害者の視点のシミュレーションが必要であるという課題を考慮して、EAA は攻撃者の視点からターゲットの変化を推定する視点変換ネットワークを革新的に考案しました。
EAA は、決定および制御モジュールとして、物理的攻撃を実行するための高度に操作可能な媒体であるレーザーを採用し、さらに強化学習を使用して攻撃エージェントをトレーニングして、認識された情報に基づいて最適な攻撃戦略を瞬時に決定できるようにします。
最後に、フレームワークを自動運転シナリオに適用します。
さまざまな実験により、複雑なシーンにおける本手法の高い有効性が検証されています。

要約(オリジナル)

As physical adversarial attacks become extensively applied in unearthing the potential risk of security-critical scenarios, especially in autonomous driving, their vulnerability to environmental changes has also been brought to light. The non-robust nature of physical adversarial attack methods brings less-than-stable performance consequently. To enhance the robustness of physical adversarial attacks in the real world, instead of statically optimizing a robust adversarial example via an off-line training manner like the existing methods, this paper proposes a brand new robust adversarial attack framework: Embodied Adversarial Attack (EAA) from the perspective of dynamic adaptation, which aims to employ the paradigm of embodied intelligence: Perception-Decision-Control to dynamically adjust the optimal attack strategy according to the current situations in real time. For the perception module, given the challenge of needing simulation for the victim’s viewpoint, EAA innovatively devises a Perspective Transformation Network to estimate the target’s transformation from the attacker’s perspective. For the decision and control module, EAA adopts the laser-a highly manipulable medium to implement physical attacks, and further trains an attack agent with reinforcement learning to make it capable of instantaneously determining the best attack strategy based on the perceived information. Finally, we apply our framework to the autonomous driving scenario. A variety of experiments verify the high effectiveness of our method under complex scenes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google