SlowPerception: Physical-World Latency Attack against Visual Perception in Autonomous Driving

要約

自動運転 (AD) システムは、安全な運転を確保するためにリアルタイムの物体検出と複数の物体追跡 (MOT) を視覚に大きく依存しています。
ただし、これらの視覚コンポーネントの遅延が長いと、車両衝突などの重大な安全上のリスクにつながる可能性があります。
これまでの研究では、デジタル領域内のレイテンシー攻撃が広範囲に調査されてきましたが、これらの手法を物理的な世界に効果的に変換するには課題が生じます。
たとえば、既存の攻撃は、空などの領域に影響を与える敵対的な摂動や、カメラの視界の大部分を覆い隠す大きなパッチを必要とするなど、AD にとって非現実的または非現実的な摂動に依存しているため、現実世界で効果的に実行することは不可能です。
。
この論文では、プロジェクターベースの普遍的摂動を生成することによる、AD 知覚に対する最初の物理世界レイテンシー攻撃である SlowPerception を紹介します。
SlowPerception は、環境内のさまざまな表面に多数のファントム オブジェクトを戦略的に作成し、非最大抑制 (NMS) と MOT の計算負荷を大幅に増加させ、それによって大幅な遅延を引き起こします。
当社の SlowPerception は、物理世界の設定で第 2 レベルの遅延を達成し、さまざまな AD 認識システム、シナリオ、ハードウェア構成全体で平均 2.5 秒の遅延を実現します。
このパフォーマンスは、既存の最先端のレイテンシー攻撃を大幅に上回ります。
さらに、当社は、平均 97% の率で生産グレードの AD シミュレータを備えた業界グレードの AD システムを使用して、車両衝突などの AD システム レベルの影響評価を実施しています。
私たちは、私たちの分析がこの重要な領域におけるさらなる研究のきっかけとなり、新たな脆弱性に対する AD システムの堅牢性を強化できることを願っています。

要約(オリジナル)

Autonomous Driving (AD) systems critically depend on visual perception for real-time object detection and multiple object tracking (MOT) to ensure safe driving. However, high latency in these visual perception components can lead to significant safety risks, such as vehicle collisions. While previous research has extensively explored latency attacks within the digital realm, translating these methods effectively to the physical world presents challenges. For instance, existing attacks rely on perturbations that are unrealistic or impractical for AD, such as adversarial perturbations affecting areas like the sky, or requiring large patches that obscure most of a camera’s view, thus making them impossible to be conducted effectively in the real world. In this paper, we introduce SlowPerception, the first physical-world latency attack against AD perception, via generating projector-based universal perturbations. SlowPerception strategically creates numerous phantom objects on various surfaces in the environment, significantly increasing the computational load of Non-Maximum Suppression (NMS) and MOT, thereby inducing substantial latency. Our SlowPerception achieves second-level latency in physical-world settings, with an average latency of 2.5 seconds across different AD perception systems, scenarios, and hardware configurations. This performance significantly outperforms existing state-of-the-art latency attacks. Additionally, we conduct AD system-level impact assessments, such as vehicle collisions, using industry-grade AD systems with production-grade AD simulators with a 97% average rate. We hope that our analyses can inspire further research in this critical domain, enhancing the robustness of AD systems against emerging vulnerabilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google