Benchmarking the Physical-world Adversarial Robustness of Vehicle Detection

要約

【タイトル】自動車検出の物理世界における敵対的な耐久性をベンチマーク化する

【要約】物理世界における敵対的攻撃は、検出モデルの耐久性を損なう可能性があるため、検出モデルの耐久性を評価することは課題となっている。 しかし、多くの実験が時間と労力を要するため、物理的な実験を行うことは困難です。そのため、バーチャルシミュレーション実験がこの課題の解決に役立ちます。しかし、統一されたバーチャルシミュレーション環境に基づく検出ベンチマークが存在しません。そこで、CARLAシミュレーターに基づく即時レベルのデータ生成パイプラインを提案しました。このパイプラインを使用して、DCIデータセットを生成し、3つの検出モデルと3つの物理的な敵対的攻撃について詳細な実験を実施しました。データセットには7つの連続的なシーンと1つの離散シーンが含まれ、40以上の角度、20の距離、20,000以上の位置がカバーされています。その結果、Yolo v6が最も強い耐性を持ち、平均AP低下率は6.59％であり、ASAは最も効果的な攻撃アルゴリズムであり、平均AP低下率が14.51％で、他のアルゴリズムの2倍になりました。静止シーンでは認識APが高く、異なる天候条件下の結果は類似していました。敵対的攻撃アルゴリズムの改善は「限界」に近づいている可能性がある。

要約(オリジナル)

Adversarial attacks in the physical world can harm the robustness of detection models. Evaluating the robustness of detection models in the physical world can be challenging due to the time-consuming and labor-intensive nature of many experiments. Thus, virtual simulation experiments can provide a solution to this challenge. However, there is no unified detection benchmark based on virtual simulation environment. To address this challenge, we proposed an instant-level data generation pipeline based on the CARLA simulator. Using this pipeline, we generated the DCI dataset and conducted extensive experiments on three detection models and three physical adversarial attacks. The dataset covers 7 continuous and 1 discrete scenes, with over 40 angles, 20 distances, and 20,000 positions. The results indicate that Yolo v6 had strongest resistance, with only a 6.59% average AP drop, and ASA was the most effective attack algorithm with a 14.51% average AP reduction, twice that of other algorithms. Static scenes had higher recognition AP, and results under different weather conditions were similar. Adversarial attack algorithm improvement may be approaching its ‘limitation’.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI