A Large-scale Multiple-objective Method for Black-box Attack against Object Detection

要約

最近の調査によると、ディープ モデルに基づく検出器は、攻撃者がモデル情報にアクセスできないブラックボックス シナリオであっても、敵対的な例に対して脆弱であることが示されています。
ほとんどの既存の攻撃方法は、真陽性率を最小限に抑えることを目的としていますが、これは、攻撃されたバウンディング ボックスの周囲で別の次善のバウンディング ボックスが新しい真陽性として検出される可能性があるため、攻撃のパフォーマンスが低下することがよくあります。
この課題を解決するために、真陽性率を最小限に抑え、偽陽性率を最大化することを提案します。これにより、より多くの偽陽性オブジェクトが新しい真陽性境界ボックスの生成をブロックするようになります。
これは多目的最適化 (MOP) 問題としてモデル化されており、その汎用アルゴリズムはパレート最適解を検索できます。
ただし、タスクには 200 万を超える決定変数があり、検索効率が低くなります。
したがって、GARSDCと呼ばれるランダムサブセット選択と分割統治法を使用して標準の遺伝的アルゴリズムを拡張し、効率を大幅に向上させます。
さらに、一般的なアルゴリズムの母集団の品質に対する感度を軽減するために、同様のバックボーンを持つ異なる検出器間の転送可能性を利用して、勾配優先の初期母集団を生成します。
最先端の攻撃方法と比較して、GARSDC は mAP で平均 12.0 減少し、大規模な実験では約 1000 倍のクエリを実行します。
コードは https://github.com/LiangSiyuan21/GARSDC にあります。

要約(オリジナル)

Recent studies have shown that detectors based on deep models are vulnerable to adversarial examples, even in the black-box scenario where the attacker cannot access the model information. Most existing attack methods aim to minimize the true positive rate, which often shows poor attack performance, as another sub-optimal bounding box may be detected around the attacked bounding box to be the new true positive one. To settle this challenge, we propose to minimize the true positive rate and maximize the false positive rate, which can encourage more false positive objects to block the generation of new true positive bounding boxes. It is modeled as a multi-objective optimization (MOP) problem, of which the generic algorithm can search the Pareto-optimal. However, our task has more than two million decision variables, leading to low searching efficiency. Thus, we extend the standard Genetic Algorithm with Random Subset selection and Divide-and-Conquer, called GARSDC, which significantly improves the efficiency. Moreover, to alleviate the sensitivity to population quality in generic algorithms, we generate a gradient-prior initial population, utilizing the transferability between different detectors with similar backbones. Compared with the state-of-art attack methods, GARSDC decreases by an average 12.0 in the mAP and queries by about 1000 times in extensive experiments. Our codes can be found at https://github.com/LiangSiyuan21/ GARSDC.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google