Is Your Autonomous Vehicle Safe? Understanding the Threat of Electromagnetic Signal Injection Attacks on Traffic Scene Perception

要約

自動運転車は、カメラベースの認識システムに依存して走行環境を理解し、重要な決定を下すことで、車両の安全な操縦を保証します。
しかし、電磁信号注入攻撃 (ESIA) として知られる重大な脅威により、これらのカメラで撮影された画像が歪められ、AI の誤った判断につながり、自動運転車の安全性が損なわれる可能性があります。
ESIA の深刻な影響にもかかわらず、さまざまで複雑な運転シナリオにおける AI モデルの堅牢性に対する ESIA の影響については十分に理解されていません。
このギャップに対処するために、私たちの調査では ESIA に基づいてさまざまなモデルのパフォーマンスを分析し、攻撃に対する脆弱性を明らかにしました。
さらに、現実世界の攻撃データを取得するのは困難であるため、私たちは新しい ESIA シミュレーション手法を開発し、さまざまな運転シナリオ向けにシミュレートされた攻撃データセットを生成します。
私たちの研究は、包括的なシミュレーションと評価のフレームワークを提供し、より堅牢な AI モデルと安全なインテリジェント システムの開発を強化し、最終的にはさまざまな分野にわたるより安全で信頼性の高い技術の進歩に貢献することを目的としています。

要約(オリジナル)

Autonomous vehicles rely on camera-based perception systems to comprehend their driving environment and make crucial decisions, thereby ensuring vehicles to steer safely. However, a significant threat known as Electromagnetic Signal Injection Attacks (ESIA) can distort the images captured by these cameras, leading to incorrect AI decisions and potentially compromising the safety of autonomous vehicles. Despite the serious implications of ESIA, there is limited understanding of its impacts on the robustness of AI models across various and complex driving scenarios. To address this gap, our research analyzes the performance of different models under ESIA, revealing their vulnerabilities to the attacks. Moreover, due to the challenges in obtaining real-world attack data, we develop a novel ESIA simulation method and generate a simulated attack dataset for different driving scenarios. Our research provides a comprehensive simulation and evaluation framework, aiming to enhance the development of more robust AI models and secure intelligent systems, ultimately contributing to the advancement of safer and more reliable technology across various fields.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google