PaniCar: Securing the Perception of Advanced Driving Assistance Systems Against Emergency Vehicle Lighting

要約

自動運転車の安全性は、特に駐車中の緊急車両（警察車、救急車、消防隊）に衝突するテスラス（オートパイロットが関与している）を含む16の文書化された事件の後、近年精査されています。
以前の研究では、強力な光源がキャプチャされた画像にフレアアーティファクトを導入することが多いことが明らかになりましたが、画像の品質を低下させると、オブジェクトの検出性能に対するフレアの影響は不明のままです。
この研究では、アクティブ化された緊急車両照明にさらされたときにオブジェクト検出器の信頼性スコアが検出しきい値以下で変動するデジタル現象であるパニカーを発表します。
この脆弱性は重大な安全リスクをもたらし、自動運転車が緊急車両の近くでオブジェクトを検出できないようにする可能性があります。
さらに、この脆弱性は、高度な運転支援システム（ADAS）のセキュリティを損なうために敵によって搾取される可能性があります。
7つの商用ADASS（Teslaモデル3、「メーカーC」、HP、Pelsee、Azdome、Imagebon、Rexing）、4つのオブジェクト検出器（Yolo、SSD、Retinanet、R-CNN）、およびさまざまな技術的および環境的要因の影響を理解するための緊急車両照明の14パターンを評価します。
また、4つのSOTAフレア除去方法を評価し、リアルタイムの運転制約にはパフォーマンスと遅延が不十分であることを示しています。
このリスクを軽減するために、活性化された緊急車両照明の影響に対するオブジェクト検出器の回復力を高めるために設計された堅牢なフレームワークであるカラセタモールを提案します。
私たちの評価は、Yolov3およびより速いRCNNでは、カラセタモールがモデルの自動車検出の平均信頼を0.20、低い信頼度を0.33に改善し、変動範囲を0.33に削減することを示しています。
さらに、カラセタモールは30〜50 fpsの速度でフレームを処理することができ、リアルタイムのADAS車の検出を可能にします。

要約(オリジナル)

The safety of autonomous cars has come under scrutiny in recent years, especially after 16 documented incidents involving Teslas (with autopilot engaged) crashing into parked emergency vehicles (police cars, ambulances, and firetrucks). While previous studies have revealed that strong light sources often introduce flare artifacts in the captured image, which degrade the image quality, the impact of flare on object detection performance remains unclear. In this research, we unveil PaniCar, a digital phenomenon that causes an object detector’s confidence score to fluctuate below detection thresholds when exposed to activated emergency vehicle lighting. This vulnerability poses a significant safety risk, and can cause autonomous vehicles to fail to detect objects near emergency vehicles. In addition, this vulnerability could be exploited by adversaries to compromise the security of advanced driving assistance systems (ADASs). We assess seven commercial ADASs (Tesla Model 3, ‘manufacturer C’, HP, Pelsee, AZDOME, Imagebon, Rexing), four object detectors (YOLO, SSD, RetinaNet, Faster R-CNN), and 14 patterns of emergency vehicle lighting to understand the influence of various technical and environmental factors. We also evaluate four SOTA flare removal methods and show that their performance and latency are insufficient for real-time driving constraints. To mitigate this risk, we propose Caracetamol, a robust framework designed to enhance the resilience of object detectors against the effects of activated emergency vehicle lighting. Our evaluation shows that on YOLOv3 and Faster RCNN, Caracetamol improves the models’ average confidence of car detection by 0.20, the lower confidence bound by 0.33, and reduces the fluctuation range by 0.33. In addition, Caracetamol is capable of processing frames at a rate of between 30-50 FPS, enabling real-time ADAS car detection.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google