Model Agnostic Defense against Adversarial Patch Attacks on Object Detection in Unmanned Aerial Vehicles

要約

物体検出は、上空から見た地上の物体の認識に依存する高レベルのタスクを完了するための、無人航空機 (UAV) の重要なコンポーネントを形成します。
このシナリオでは、オンボードのオブジェクト検出器に対する敵対的なパッチ攻撃により、上流のタスクのパフォーマンスが著しく損なわれる可能性があります。
この論文では、UAV ベースの物体検出のコンテキストにおける敵対的パッチ攻撃の脅威に対する、モデルに依存しない新しい防御メカニズムを提案します。
敵対的パッチ防御をオクルージョン除去タスクとして定式化します。
提案された防御方法は、トレーニング中に敵対的なパッチにさらされることなく、対象オブジェクト上にある敵対的なパッチを無力化できます。
当社の軽量の単一段階防御アプローチにより、モデルに依存しない性質を維持できるため、一度展開すると、物体検出パイプラインの変更に応じて更新する必要がありません。
デジタルおよび物理ドメインでの評価は、大幅な処理コストを発生させることなく攻撃成功率を大幅に低下させることにより、UAV 物体検出パイプラインに導入するための私たちの方法の実現可能性を示しています。
その結果、提案された防御ソリューションは、UAV の物体検出の信頼性を向上させることができます。

要約(オリジナル)

Object detection forms a key component in Unmanned Aerial Vehicles (UAVs) for completing high-level tasks that depend on the awareness of objects on the ground from an aerial perspective. In that scenario, adversarial patch attacks on an onboard object detector can severely impair the performance of upstream tasks. This paper proposes a novel model-agnostic defense mechanism against the threat of adversarial patch attacks in the context of UAV-based object detection. We formulate adversarial patch defense as an occlusion removal task. The proposed defense method can neutralize adversarial patches located on objects of interest, without exposure to adversarial patches during training. Our lightweight single-stage defense approach allows us to maintain a model-agnostic nature, that once deployed does not require to be updated in response to changes in the object detection pipeline. The evaluations in digital and physical domains show the feasibility of our method for deployment in UAV object detection pipelines, by significantly decreasing the Attack Success Ratio without incurring significant processing costs. As a result, the proposed defense solution can improve the reliability of object detection for UAVs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google