Evaluating Adversarial Robustness on Document Image Classification

要約

タイトル：文書画像分類における敵対的堅牢性の評価

要約：
– コンピュータビジョンシステムにおける敵対的攻撃と防御が近年注目されているが、ほとんどの研究は画像に対するものが中心である。
– しかし、多くの人工知能モデルは文書データを扱っており、これは実世界の画像とは非常に異なる。
– この研究では、敵対的攻撃の哲学を文書や自然データに適用し、モデルをこれらの攻撃から守ることを試みる。
– 無目的勾配ベース、転送ベース、スコアベースの攻撃に焦点を当て、ResNet50およびEfficientNetB0モデルアーキテクチャの堅牢性に対する敵対的トレーニング、JPEG入力圧縮、グレースケール入力変換の影響を評価する。
– これらの攻撃が文書画像分類タスクに与える影響を研究するために、コミュニティによるこのような研究は今まで行われていない。

要約(オリジナル)

Adversarial attacks and defenses have gained increasing interest on computer vision systems in recent years, but as of today, most investigations are limited to images. However, many artificial intelligence models actually handle documentary data, which is very different from real world images. Hence, in this work, we try to apply the adversarial attack philosophy on documentary and natural data and to protect models against such attacks. We focus our work on untargeted gradient-based, transfer-based and score-based attacks and evaluate the impact of adversarial training, JPEG input compression and grey-scale input transformation on the robustness of ResNet50 and EfficientNetB0 model architectures. To the best of our knowledge, no such work has been conducted by the community in order to study the impact of these attacks on the document image classification task.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI