Adversarial Attack Against Images Classification based on Generative Adversarial Networks

要約

画像分類システムに対する敵対的攻撃は、機械学習の分野において常に重要な問題であり、敵対的生成ネットワーク (GAN) は、画像生成の分野で人気のあるモデルとして、その強力な生成機能により、さまざまな新しいシナリオで広く使用されています。
能力。
しかし、敵対的生成ネットワークの普及に伴い、偽画像技術の悪用により、他人の写真やビデオの悪意のある改ざんや個人のプライバシーの侵害など、一連のセキュリティ問題が引き起こされています。
この研究は、敵対的生成ネットワークにインスピレーションを得て、画像分類システムの弱点を洞察し、攻撃防御能力を向上させることを目的とした、新しい敵対的攻撃手法を提案しています。
具体的には、敵対的生成ネットワークは、摂動は小さいが分類器の意思決定に影響を与えるのに十分な量の敵対的サンプルを生成するために使用され、敵対的サンプルはトレーニング ジェネレーターと分類器の敵対的学習を通じて生成されます。
広範な実験分析から、古典的な画像分類データセットに対するこの方法の有効性を評価しました。その結果、私たちのモデルが敵対的サンプルの自然さを維持しながら、さまざまな高度な分類器をうまく欺いていることが示されました。

要約(オリジナル)

Adversarial attacks on image classification systems have always been an important problem in the field of machine learning, and generative adversarial networks (GANs), as popular models in the field of image generation, have been widely used in various novel scenarios due to their powerful generative capabilities. However, with the popularity of generative adversarial networks, the misuse of fake image technology has raised a series of security problems, such as malicious tampering with other people’s photos and videos, and invasion of personal privacy. Inspired by the generative adversarial networks, this work proposes a novel adversarial attack method, aiming to gain insight into the weaknesses of the image classification system and improve its anti-attack ability. Specifically, the generative adversarial networks are used to generate adversarial samples with small perturbations but enough to affect the decision-making of the classifier, and the adversarial samples are generated through the adversarial learning of the training generator and the classifier. From extensive experiment analysis, we evaluate the effectiveness of the method on a classical image classification dataset, and the results show that our model successfully deceives a variety of advanced classifiers while maintaining the naturalness of adversarial samples.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google