A Black-Box Attack on Optical Character Recognition Systems

要約

敵対的機械学習は、ディープ ラーニング モデルの脆弱性を示す新たな分野です。
最先端の人工知能 (A.I.) モデルに挑戦するための攻撃方法の調査は、重大な関心事の領域です。
そんなA.I.の信頼性と堅牢性。
モデルは、効果的な敵対的攻撃方法の増加に伴う主要な懸念事項の 1 つです。
分類タスクは、敵対的攻撃に対して脆弱な主要な領域です。
攻撃戦略の大部分は、カラーまたはグレースケールの画像用に開発されています。
その結果、バイナリ画像認識システムに対する敵対的攻撃は十分に研究されていません。
バイナリ イメージは、1 つのチャネルを持つ単純な 2 つの可能なピクセル値信号です。
バイナリ イメージの単純さには、カラー イメージやグレー スケール イメージと比較して、計算効率という大きな利点があります。
さらに、手書き文字認識、プレート番号識別、銀行小切手認識システムなどのほとんどの光学式文字認識システム (O.C.R.) は、処理ステップでバイナリ イメージまたはバイナリ化を使用します。
この論文では、バイナリ画像分類器に対する単純で効率的な攻撃方法、効率的な組み合わせブラックボックス敵対的攻撃を提案します。
2 つの異なるデータ セットと 3 つの分類ネットワークで攻撃手法の効率を検証し、そのパフォーマンスを実証します。
さらに、長所と短所、および適用性に関して、提案された方法を最先端の方法と比較します。

要約(オリジナル)

Adversarial machine learning is an emerging area showing the vulnerability of deep learning models. Exploring attack methods to challenge state of the art artificial intelligence (A.I.) models is an area of critical concern. The reliability and robustness of such A.I. models are one of the major concerns with an increasing number of effective adversarial attack methods. Classification tasks are a major vulnerable area for adversarial attacks. The majority of attack strategies are developed for colored or gray-scaled images. Consequently, adversarial attacks on binary image recognition systems have not been sufficiently studied. Binary images are simple two possible pixel-valued signals with a single channel. The simplicity of binary images has a significant advantage compared to colored and gray scaled images, namely computation efficiency. Moreover, most optical character recognition systems (O.C.R.s), such as handwritten character recognition, plate number identification, and bank check recognition systems, use binary images or binarization in their processing steps. In this paper, we propose a simple yet efficient attack method, Efficient Combinatorial Black-box Adversarial Attack, on binary image classifiers. We validate the efficiency of the attack technique on two different data sets and three classification networks, demonstrating its performance. Furthermore, we compare our proposed method with state-of-the-art methods regarding advantages and disadvantages as well as applicability.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google