Runtime Stealthy Perception Attacks against DNN-based Adaptive Cruise Control Systems

要約

アダプティブ クルーズ コントロール (ACC) は、必要な速度と先行車両までの安全な距離を維持するために広く使用されている運転支援技術です。
この論文では、カメラ データに戦略的に摂動を注入して前方衝突を引き起こすランタイム ステルス認識攻撃下でのディープ ニューラル ネットワーク (DNN) ベースの ACC システムのセキュリティを評価します。
攻撃を引き起こす最もクリティカルな時間を選択するためのコンテキスト認識戦略と、実行時に画像摂動を適応的に生成するための新しい最適化ベースの方法を紹介します。
実際の車両、公開されている運転データセット、量産 ACC システムの制御ソフトウェアを備えた現実的なシミュレーション プラットフォーム、物理世界の運転シミュレーター、人間のドライバーと安全機能による介入を使用して、提案された攻撃の有効性を評価します。
先進緊急ブレーキシステム (AEBS) など。
実験の結果、提案された攻撃は、現実世界の要因や環境の動的な変化に対してステルス性と堅牢性を備えながら、危険を引き起こす成功率がベースラインより 142.9 倍高く、回避率が 89.6% 高いことを示しています。
この研究は、攻撃を防止する際の人間のドライバーの役割と基本的な安全メカニズムに焦点を当てています。

要約(オリジナル)

Adaptive Cruise Control (ACC) is a widely used driver assistance technology for maintaining the desired speed and safe distance to the leading vehicle. This paper evaluates the security of the deep neural network (DNN) based ACC systems under runtime stealthy perception attacks that strategically inject perturbations into camera data to cause forward collisions. We present a context-aware strategy for the selection of the most critical times for triggering the attacks and a novel optimization-based method for the adaptive generation of image perturbations at runtime. We evaluate the effectiveness of the proposed attack using an actual vehicle, a publicly available driving dataset, and a realistic simulation platform with the control software from a production ACC system, a physical-world driving simulator, and interventions by the human driver and safety features such as Advanced Emergency Braking System (AEBS). Experimental results show that the proposed attack achieves 142.9 times higher success rate in causing hazards and 89.6% higher evasion rate than baselines, while being stealthy and robust to real-world factors and dynamic changes in the environment. This study highlights the role of human drivers and basic safety mechanisms in preventing attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google