Amicable Aid: Perturbing Images to Improve Classification Performance

要約

深い画像分類モデルを攻撃するための画像の敵対的摂動は、実際には深刻なセキュリティ上の懸念を引き起こしますが、この論文では、画像摂動の概念が分類パフォーマンスに利益をもたらすことができる新しいパラダイムを提案します。
摂動の反対方向の検索を行うことにより、画像を修正して分類の信頼性を高め、誤分類された画像でも正しく分類できることを示します。
これは、画像が人間の目で認識できなくなるほどの大量の摂動によっても実現できます。
友好的な援助のメカニズムは、根底にある自然イメージ多様体の観点から説明されています。
さらに、普遍的な友好的な援助を調査します。つまり、固定摂動を複数の画像に適用して、分類結果を改善できます。
このような摂動を見つけることは困難ですが、変更されたデータを使用したトレーニングを介して決定境界を画像多様体にできるだけ垂直にすることが、普遍的な友好的な摂動がより簡単に見つかるモデルを取得するのに効果的であることを示します。

要約(オリジナル)

While adversarial perturbation of images to attack deep image classification models pose serious security concerns in practice, this paper suggests a novel paradigm where the concept of image perturbation can benefit classification performance, which we call amicable aid. We show that by taking the opposite search direction of perturbation, an image can be modified to yield higher classification confidence and even a misclassified image can be made correctly classified. This can be also achieved with a large amount of perturbation by which the image is made unrecognizable by human eyes. The mechanism of the amicable aid is explained in the viewpoint of the underlying natural image manifold. Furthermore, we investigate the universal amicable aid, i.e., a fixed perturbation can be applied to multiple images to improve their classification results. While it is challenging to find such perturbations, we show that making the decision boundary as perpendicular to the image manifold as possible via training with modified data is effective to obtain a model for which universal amicable perturbations are more easily found.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google