Backdoor Attacks for Remote Sensing Data with Wavelet Transform

要約

近年、地球科学とリモートセンシングの分野でディープラーニングアルゴリズムが大きな成功を収めています。
それにもかかわらず、安全性が重要なリモート センシング タスクに対処する場合、深層学習モデルのセキュリティと堅牢性には特別な注意が必要です。
この論文では、シーン分類とセマンティック セグメンテーション タスクの両方を考慮した、リモート センシング データに対するバックドア攻撃の体系的な分析を提供します。
既存のバックドア攻撃アルゴリズムのほとんどは、適切に設計されたパターンを持つ四角形のパッチなどの目に見えるトリガーに依存していますが、私たちは新しいウェーブレット変換ベースの攻撃 (WABA) 手法を提案します。
低周波領域。
このようにして、トリガー イメージ内の高周波情報が攻撃で除外される可能性があり、その結果、ステルス データ ポイズニングが発生します。
その単純さにもかかわらず、提案された方法は、高い攻撃成功率で現在の最先端の深層学習モデルを大幅に欺くことができます。
さらに、ウェーブレット変換のさまざまなトリガー画像とハイパーパラメーターが、提案された方法のパフォーマンスにどのような影響を与えるかを分析します。
4 つのベンチマーク リモート センシング データセットに対する広範な実験により、シーン分類タスクとセマンティック セグメンテーション タスクの両方に対する提案手法の有効性が実証され、リモート センシング シナリオでこの脅威に対処するための高度なバックドア防御アルゴリズムを設計することの重要性が強調されています。
コードは \url{https://github.com/ndraeger/waba} からオンラインで入手できます。

要約(オリジナル)

Recent years have witnessed the great success of deep learning algorithms in the geoscience and remote sensing realm. Nevertheless, the security and robustness of deep learning models deserve special attention when addressing safety-critical remote sensing tasks. In this paper, we provide a systematic analysis of backdoor attacks for remote sensing data, where both scene classification and semantic segmentation tasks are considered. While most of the existing backdoor attack algorithms rely on visible triggers like squared patches with well-designed patterns, we propose a novel wavelet transform-based attack (WABA) method, which can achieve invisible attacks by injecting the trigger image into the poisoned image in the low-frequency domain. In this way, the high-frequency information in the trigger image can be filtered out in the attack, resulting in stealthy data poisoning. Despite its simplicity, the proposed method can significantly cheat the current state-of-the-art deep learning models with a high attack success rate. We further analyze how different trigger images and the hyper-parameters in the wavelet transform would influence the performance of the proposed method. Extensive experiments on four benchmark remote sensing datasets demonstrate the effectiveness of the proposed method for both scene classification and semantic segmentation tasks and thus highlight the importance of designing advanced backdoor defense algorithms to address this threat in remote sensing scenarios. The code will be available online at \url{https://github.com/ndraeger/waba}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google