Dynamic Adversarial Attacks on Autonomous Driving Systems

要約

この論文では、自動運転システムの回復力に挑戦する攻撃メカニズムを紹介します。
具体的には、別の移動車両に搭載された画面に敵対的なパッチを動的に表示することで、自動運転車両の意思決定プロセスを操作します。
これらのパッチは、物体検出モデルを欺いて、交通標識などの対象物体を誤って分類するように最適化されています。
このような操作は、安全で効率的な自動運転システムにとって不可欠な、交差点横断や車線変更などの重要な複数車両のインタラクションに重大な影響を及ぼします。
特に私たちは4つの大きな貢献をしています。
まず、パッチがターゲットと同じ場所に配置されない新しい敵対的攻撃アプローチを導入し、より汎用性の高いステルス攻撃を可能にします。
さらに、私たちの方法では画面に表示される動的なパッチを利用し、適応的な変更と移動を可能にし、攻撃の柔軟性とパフォーマンスを向上させます。
そのために、表示される画像に対する環境の影響をシミュレートし、シミュレートされたシナリオと現実世界のシナリオの間のギャップを狭める画面画像変換ネットワーク (SIT-Net) を設計します。
さらに、動的攻撃の成功率を高めるために、位置損失期間を敵対的トレーニング プロセスに統合します。
最後に、単に知覚システムを攻撃することから、自動運転システムの意思決定アルゴリズムに影響を与えることに焦点を移します。
私たちの実験は、現実世界の自動運転シナリオにおけるこのような動的な敵対的攻撃の実装に初めて成功したことを実証し、堅牢で安全な自動運転の分野における進歩への道を切り開きます。

要約(オリジナル)

This paper introduces an attacking mechanism to challenge the resilience of autonomous driving systems. Specifically, we manipulate the decision-making processes of an autonomous vehicle by dynamically displaying adversarial patches on a screen mounted on another moving vehicle. These patches are optimized to deceive the object detection models into misclassifying targeted objects, e.g., traffic signs. Such manipulation has significant implications for critical multi-vehicle interactions such as intersection crossing and lane changing, which are vital for safe and efficient autonomous driving systems. Particularly, we make four major contributions. First, we introduce a novel adversarial attack approach where the patch is not co-located with its target, enabling more versatile and stealthy attacks. Moreover, our method utilizes dynamic patches displayed on a screen, allowing for adaptive changes and movement, enhancing the flexibility and performance of the attack. To do so, we design a Screen Image Transformation Network (SIT-Net), which simulates environmental effects on the displayed images, narrowing the gap between simulated and real-world scenarios. Further, we integrate a positional loss term into the adversarial training process to increase the success rate of the dynamic attack. Finally, we shift the focus from merely attacking perceptual systems to influencing the decision-making algorithms of self-driving systems. Our experiments demonstrate the first successful implementation of such dynamic adversarial attacks in real-world autonomous driving scenarios, paving the way for advancements in the field of robust and secure autonomous driving.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google