Detector Collapse: Physical-World Backdooring Object Detection to Catastrophic Overload or Blindness in Autonomous Driving

要約

自動運転などの安全性が重要なシステムにおいて重要な物体検出タスクは、物体の位置を正確に特定することに重点を置いています。
これらの検出器はバックドア攻撃を受けやすいことが知られています。
しかし、既存のバックドア技術は主に分類タスクから応用されており、オブジェクト検出に特有のより深い脆弱性が見落とされています。
このホワイト ペーパーでは、オブジェクト検出用に調整されたまったく新しいバックドア攻撃パラダイムである Detector Collapse} (DC) を紹介することで、このギャップを埋めることに専念しています。
DC は、検出器を即座に無力化するように設計されています (つまり、検出器のパフォーマンスが大幅に低下し、最終的にはサービス妨害につながります)。
この目的を達成するために、私たちは 2 つの革新的な攻撃スキームを開発しました。1 つは広範な誤認を引き起こすための Sponge で、もう 1 つはオブジェクトを非表示にするための Blinding です。
注目すべきことに、自然物体を悪用した新しいポイズニング戦略を導入し、DC が現実世界の環境で実用的なバックドアとして機能できるようにしています。
いくつかのベンチマークにわたるさまざまな検出器での実験では、最先端の攻撃と比較して、攻撃効率が大幅に向上していることがわかりました ($\sim$10\%-60\% 絶対値および $\sim$2-7$\times$ 相対値)。

要約(オリジナル)

Object detection tasks, crucial in safety-critical systems like autonomous driving, focus on pinpointing object locations. These detectors are known to be susceptible to backdoor attacks. However, existing backdoor techniques have primarily been adapted from classification tasks, overlooking deeper vulnerabilities specific to object detection. This paper is dedicated to bridging this gap by introducing Detector Collapse} (DC), a brand-new backdoor attack paradigm tailored for object detection. DC is designed to instantly incapacitate detectors (i.e., severely impairing detector’s performance and culminating in a denial-of-service). To this end, we develop two innovative attack schemes: Sponge for triggering widespread misidentifications and Blinding for rendering objects invisible. Remarkably, we introduce a novel poisoning strategy exploiting natural objects, enabling DC to act as a practical backdoor in real-world environments. Our experiments on different detectors across several benchmarks show a significant improvement ($\sim$10\%-60\% absolute and $\sim$2-7$\times$ relative) in attack efficacy over state-of-the-art attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google