On the Detection of Image-Scaling Attacks in Machine Learning

要約

画像のスケーリングは、機械学習およびコンピューター ビジョン システムに不可欠な部分です。
残念ながら、この前処理ステップは、攻撃者が画像に目立たない変更を加えてスケーリング後に新しい画像になる、いわゆる画像スケーリング攻撃に対して脆弱です。
これにより、攻撃者が予測を制御したり、ポイズニングやバックドア攻撃を改善したりするための新しい方法が開かれます。
スケーリング攻撃を防ぐ効果的な技術は存在しますが、その検出についてはまだ厳密に研究されていません。
したがって、現時点では、実際にはこれらの攻撃を確実に発見することはできません。
この論文では、イメージスケーリング攻撃の検出方法の最初の詳細な体系化と分析について説明します。
私たちは 2 つの一般的な検出パラダイムを特定し、そこから設計がシンプルでありながら以前の研究を大幅に上回る新しい方法を導き出します。
すべての主要な学習プラットフォームとスケーリング アルゴリズムを使用した包括的な評価で、これらの手法の有効性を実証します。
まず、スケーリングされた画像全体を変更する画像スケーリング攻撃が、適応型の敵対者のもとでも確実に検出できることを示します。
第二に、画像のごく一部が操作された場合でも、私たちの方法は強力な検出パフォーマンスを提供することがわかりました。
その結果、画像スケーリング攻撃に対する新しい保護層を導入することができます。

要約(オリジナル)

Image scaling is an integral part of machine learning and computer vision systems. Unfortunately, this preprocessing step is vulnerable to so-called image-scaling attacks where an attacker makes unnoticeable changes to an image so that it becomes a new image after scaling. This opens up new ways for attackers to control the prediction or to improve poisoning and backdoor attacks. While effective techniques exist to prevent scaling attacks, their detection has not been rigorously studied yet. Consequently, it is currently not possible to reliably spot these attacks in practice. This paper presents the first in-depth systematization and analysis of detection methods for image-scaling attacks. We identify two general detection paradigms and derive novel methods from them that are simple in design yet significantly outperform previous work. We demonstrate the efficacy of these methods in a comprehensive evaluation with all major learning platforms and scaling algorithms. First, we show that image-scaling attacks modifying the entire scaled image can be reliably detected even under an adaptive adversary. Second, we find that our methods provide strong detection performance even if only minor parts of the image are manipulated. As a result, we can introduce a novel protection layer against image-scaling attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google