SlowTrack: Increasing the Latency of Camera-based Perception in Autonomous Driving Using Adversarial Examples

要約

自動運転 (AD) では、リアルタイム認識は安全な運転を確保するために周囲の物体を検出する重要なコンポーネントです。
研究者は、安全性とセキュリティへの影響により、AD 認識の完全性を広範囲に調査してきましたが、可用性 (リアルタイム パフォーマンス) や遅延の側面はあまり注目されていませんでした。
レイテンシーベースの攻撃に関する既存の研究は、主にオブジェクト検出、つまりカメラベースの AD 認識のコンポーネントに焦点を当てており、カメラベースの AD 認識全体を見落としており、車両衝突などの効果的なシステムレベルの効果を達成することが妨げられています。
この論文では、カメラベースの AD 認識の実行時間を増加させるために敵対的攻撃を生成するための新しいフレームワークである SlowTrack を提案します。
我々は、3 つの新しい損失関数設計とともに、新しい 2 段階の攻撃戦略を提案します。
私たちの評価は、4 つの一般的なカメラベースの AD 知覚パイプラインに対して行われ、その結果は、SlowTrack が同等の知覚不能レベルを維持しながら、既存の遅延ベースの攻撃を大幅に上回るパフォーマンスを示していることを示しています。
さらに、業界グレードのフルスタック AD システムである Baidu Apollo と、実稼働グレードの AD シミュレータである LGSVL の評価を 2 つのシナリオで実行し、SlowTrack と既存の攻撃のシステムレベルの影響を比較します。
評価の結果、システムレベルの効果が大幅に改善できることがわかりました。つまり、SlowTrack の車両衝突率は平均で約 95% ですが、既存の作品では約 30% にとどまっています。

要約(オリジナル)

In Autonomous Driving (AD), real-time perception is a critical component responsible for detecting surrounding objects to ensure safe driving. While researchers have extensively explored the integrity of AD perception due to its safety and security implications, the aspect of availability (real-time performance) or latency has received limited attention. Existing works on latency-based attack have focused mainly on object detection, i.e., a component in camera-based AD perception, overlooking the entire camera-based AD perception, which hinders them to achieve effective system-level effects, such as vehicle crashes. In this paper, we propose SlowTrack, a novel framework for generating adversarial attacks to increase the execution time of camera-based AD perception. We propose a novel two-stage attack strategy along with the three new loss function designs. Our evaluation is conducted on four popular camera-based AD perception pipelines, and the results demonstrate that SlowTrack significantly outperforms existing latency-based attacks while maintaining comparable imperceptibility levels. Furthermore, we perform the evaluation on Baidu Apollo, an industry-grade full-stack AD system, and LGSVL, a production-grade AD simulator, with two scenarios to compare the system-level effects of SlowTrack and existing attacks. Our evaluation results show that the system-level effects can be significantly improved, i.e., the vehicle crash rate of SlowTrack is around 95% on average while existing works only have around 30%.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google