Chromatic and spatial analysis of one-pixel attacks against an image classifier

要約

1 ピクセル攻撃は、入力画像の 1 ピクセルのみを変更することでニューラル ネットワーク分類器を欺く興味深い方法です。
この攻撃方法の可能性と境界は、まだ完全には理解されていません。
この研究では、差分進化を使用して作成された 1 ピクセル攻撃の動作メカニズムを説明するために、成功した攻撃と失敗した攻撃をより詳細に調査します。
このデータは、医用画像に対する攻撃を適用した以前の調査から得られたものです。
攻撃対象として、実際の乳がん組織データセットと実際の分類子を使用しました。
この研究では、1 ピクセル攻撃の色分布と空間分布を分析する方法を示します。
さらに、ターゲット分類子の動作を説明するために、1 ピクセルの攻撃信頼度マップを提示します。
より効果的な攻撃ほどピクセルの色が変化し、成功した攻撃は画像の中心に位置することがわかります。
この種の分析は、攻撃の動作を理解するだけでなく、分類ニューラル ネットワークの性質を理解するのにも役立ちます。

要約(オリジナル)

One-pixel attack is a curious way of deceiving neural network classifier by changing only one pixel in the input image. The full potential and boundaries of this attack method are not yet fully understood. In this research, the successful and unsuccessful attacks are studied in more detail to illustrate the working mechanisms of a one-pixel attack created using differential evolution. The data comes from our earlier studies where we applied the attack against medical imaging. We used a real breast cancer tissue dataset and a real classifier as the attack target. This research presents ways to analyze chromatic and spatial distributions of one-pixel attacks. In addition, we present one-pixel attack confidence maps to illustrate the behavior of the target classifier. We show that the more effective attacks change the color of the pixel more, and that the successful attacks are situated at the center of the images. This kind of analysis is not only useful for understanding the behavior of the attack but also the qualities of the classifying neural network.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google