Dynamic Adversarial Attacks on Autonomous Driving Systems

要約

本稿では、自律走行システムの回復力に挑戦する攻撃メカニズムを紹介する。具体的には、別の走行車両に取り付けられたスクリーンに敵対的なパッチを動的に表示することで、自律走行車両の意思決定プロセスを操作する。これらのパッチは、物体検出モデルを欺き、交通標識などの標的物体を誤分類するように最適化されている。このような操作は、交差点の横断や車線変更など、安全で効率的な自律走行システムに不可欠な、重要な複数車両の相互作用に重要な意味を持つ。特に、我々は4つの主要な貢献を行う。第一に、パッチを標的と同位置に配置しない新しい敵対的攻撃手法を導入し、より汎用的でステルス性の高い攻撃を可能にする。さらに、我々の手法は、スクリーン上に表示される動的なパッチを利用することで、適応的な変化と移動を可能にし、攻撃の柔軟性と性能を向上させる。そのために、スクリーン画像変換ネットワーク（SIT-Net）を設計し、表示された画像に対する環境効果をシミュレートすることで、シミュレートされたシナリオと現実のシナリオのギャップを狭める。さらに、ダイナミックアタックの成功率を高めるために、敵対的訓練プロセスに位置損失項を統合する。最後に、単に知覚システムを攻撃することから、自動運転システムの意思決定アルゴリズムに影響を与えることに焦点を移す。我々の実験は、このような動的敵対的攻撃を実際の自律走行シナリオにおいて初めて成功させたことを実証し、ロバストで安全な自律走行分野の進歩に道を開くものである。

要約(オリジナル)

This paper introduces an attacking mechanism to challenge the resilience of autonomous driving systems. Specifically, we manipulate the decision-making processes of an autonomous vehicle by dynamically displaying adversarial patches on a screen mounted on another moving vehicle. These patches are optimized to deceive the object detection models into misclassifying targeted objects, e.g., traffic signs. Such manipulation has significant implications for critical multi-vehicle interactions such as intersection crossing and lane changing, which are vital for safe and efficient autonomous driving systems. Particularly, we make four major contributions. First, we introduce a novel adversarial attack approach where the patch is not co-located with its target, enabling more versatile and stealthy attacks. Moreover, our method utilizes dynamic patches displayed on a screen, allowing for adaptive changes and movement, enhancing the flexibility and performance of the attack. To do so, we design a Screen Image Transformation Network (SIT-Net), which simulates environmental effects on the displayed images, narrowing the gap between simulated and real-world scenarios. Further, we integrate a positional loss term into the adversarial training process to increase the success rate of the dynamic attack. Finally, we shift the focus from merely attacking perceptual systems to influencing the decision-making algorithms of self-driving systems. Our experiments demonstrate the first successful implementation of such dynamic adversarial attacks in real-world autonomous driving scenarios, paving the way for advancements in the field of robust and secure autonomous driving.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL