Backdoor Attacks for Remote Sensing Data with Wavelet Transform

要約

近年、地球科学とリモート センシングの分野でディープ ラーニング アルゴリズムが大きな成功を収めています。
それにもかかわらず、ディープ ラーニング モデルのセキュリティと堅牢性は、安全性が重要なリモート センシング タスクに対処する際に特別な注意を払う必要があります。
この論文では、リモートセンシングデータに対するバックドア攻撃の体系的な分析を提供します。ここでは、シーン分類とセマンティックセグメンテーションタスクの両方が考慮されます。
既存のバックドア攻撃アルゴリズムのほとんどは、適切に設計されたパターンを持つ四角いパッチのような目に見えるトリガーに依存していますが、トリガー画像を汚染された画像に挿入することにより、目に見えない攻撃を実現できる新しいウェーブレット変換ベースの攻撃 (WABA) メソッドを提案します。
低周波ドメイン。
このようにして、トリガー イメージの高周波情報が攻撃で除外される可能性があり、その結果、ステルス データ ポイズニングが発生します。
その単純さにもかかわらず、提案された方法は、現在の最先端の深層学習モデルを高い攻撃成功率で大幅に欺くことができます。
さらに、ウェーブレット変換のさまざまなトリガー画像とハイパーパラメーターが、提案された方法のパフォーマンスにどのように影響するかを分析します。
4 つのベンチマーク リモート センシング データセットに関する広範な実験により、提案された方法がシーン分類タスクとセマンティック セグメンテーション タスクの両方に有効であることが実証され、リモート センシング シナリオでこの脅威に対処するための高度なバックドア防御アルゴリズムを設計することの重要性が強調されました。
コードは、\url{https://github.com/ndraeger/waba} でオンラインで入手できます。

要約(オリジナル)

Recent years have witnessed the great success of deep learning algorithms in the geoscience and remote sensing realm. Nevertheless, the security and robustness of deep learning models deserve special attention when addressing safety-critical remote sensing tasks. In this paper, we provide a systematic analysis of backdoor attacks for remote sensing data, where both scene classification and semantic segmentation tasks are considered. While most of the existing backdoor attack algorithms rely on visible triggers like squared patches with well-designed patterns, we propose a novel wavelet transform-based attack (WABA) method, which can achieve invisible attacks by injecting the trigger image into the poisoned image in the low-frequency domain. In this way, the high-frequency information in the trigger image can be filtered out in the attack, resulting in stealthy data poisoning. Despite its simplicity, the proposed method can significantly cheat the current state-of-the-art deep learning models with a high attack success rate. We further analyze how different trigger images and the hyper-parameters in the wavelet transform would influence the performance of the proposed method. Extensive experiments on four benchmark remote sensing datasets demonstrate the effectiveness of the proposed method for both scene classification and semantic segmentation tasks and thus highlight the importance of designing advanced backdoor defense algorithms to address this threat in remote sensing scenarios. The code will be available online at \url{https://github.com/ndraeger/waba}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google