Feasibility of Inconspicuous GAN-generated Adversarial Patches against Object Detection

要約

敵対的なパッチ生成の標準的なアプローチは、人間が簡単に認識できるノイズの多い目立つパターンにつながります。
最近の研究では、生成的敵対的ネットワーク（GAN）を使用して自然主義的なパッチを生成するためのいくつかのアプローチが提案されていますが、オブジェクト検出のユースケースで評価されたのはそのうちのいくつかだけです。
さらに、最先端技術は、パッチと直接オーバーラップすることにより、入力内の単一の大きなバウンディングボックスを抑制することに主に焦点を当てています。
パッチの近くのオブジェクトを抑制することは、別の、より複雑なタスクです。
この作業では、目立たないパッチを生成するための既存のアプローチを評価しました。
もともとはさまざまなコンピュータービジョンタスク用に開発された方法を、YOLOv3とCOCOデータセットを使用したオブジェクト検出のユースケースに適合させました。
自然主義的なパッチを生成するための2つのアプローチを評価しました。パッチ生成をGANトレーニングプロセスに組み込むことと、事前にトレーニングされたGANを使用することです。
どちらの場合も、パフォーマンスと自然なパッチの外観の間のトレードオフを評価しました。
私たちの実験では、事前にトレーニングされたGANを使用すると、従来の敵対的なパッチと同様のパフォーマンスを維持しながら、リアルな外観のパッチを取得するのに役立つことが示されています。

要約(オリジナル)

Standard approaches for adversarial patch generation lead to noisy conspicuous patterns, which are easily recognizable by humans. Recent research has proposed several approaches to generate naturalistic patches using generative adversarial networks (GANs), yet only a few of them were evaluated on the object detection use case. Moreover, the state of the art mostly focuses on suppressing a single large bounding box in input by overlapping it with the patch directly. Suppressing objects near the patch is a different, more complex task. In this work, we have evaluated the existing approaches to generate inconspicuous patches. We have adapted methods, originally developed for different computer vision tasks, to the object detection use case with YOLOv3 and the COCO dataset. We have evaluated two approaches to generate naturalistic patches: by incorporating patch generation into the GAN training process and by using the pretrained GAN. For both cases, we have assessed a trade-off between performance and naturalistic patch appearance. Our experiments have shown, that using a pre-trained GAN helps to gain realistic-looking patches while preserving the performance similar to conventional adversarial patches.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google