Evaluating Transfer-based Targeted Adversarial Perturbations against Real-World Computer Vision Systems based on Human Judgments

要約

コンピュータビジョンシステムは、敵対的な摂動に対して非常に脆弱です。
転送ベースの敵対的イメージは、ある（ソース）システムで生成され、別の（ターゲット）システムを攻撃するために使用されます。
このホワイトペーパーでは、ターゲットシステムが、公開されていないセマンティックラベルのインベントリを使用して、いくつかのプライベートデータでトレーニングされる現実的なシナリオで、転送ベースのターゲットを絞った敵対的イメージを調査するための最初のステップを実行します。
私たちの主な貢献には、Google Cloud Vision APIでの攻撃の成功に関する人間の判断に基づく広範な評価と、元の画像と敵対的な画像に対するGoogleCloudVisionのさまざまな動作の追加分析が含まれます。
リソースは\url{https://github.com/ZhengyuZhao/Targeted-Tansfer/blob/main/google_results.zip}で公開されています。

要約(オリジナル)

Computer vision systems are remarkably vulnerable to adversarial perturbations. Transfer-based adversarial images are generated on one (source) system and used to attack another (target) system. In this paper, we take the first step to investigate transfer-based targeted adversarial images in a realistic scenario where the target system is trained on some private data with its inventory of semantic labels not publicly available. Our main contributions include an extensive human-judgment-based evaluation of attack success on the Google Cloud Vision API and additional analysis of the different behaviors of Google Cloud Vision in face of original images vs. adversarial images. Resources are publicly available at \url{https://github.com/ZhengyuZhao/Targeted-Tansfer/blob/main/google_results.zip}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google