Convolution and Attention Mixer for Synthetic Aperture Radar Image Change Detection

要約

合成開口レーダー (SAR) 画像変化の検出は重要なタスクであり、リモート センシング コミュニティでの注目が高まっています。
ただし、既存の SAR 変化検出方法は主に畳み込みニューラル ネットワーク (CNN) に基づいており、グローバル アテンション メカニズムについては限定的に考慮されています。
このレターでは、世界的な注目を集めるために、SAR 変化検出のための Transformer のようなアーキテクチャを検討します。
この目的を達成するために、畳み込みおよびアテンション ミキサー (CAMixer) を提案します。
まず、Transformer の誘導バイアスを補償するために、セルフアテンションとシフト畳み込みを並行して組み合わせます。
並列設計は、自己注意を介してグローバルな意味情報を効果的に取得し、同時にシフト畳み込みによる局所的な特徴抽出を実行します。
次に、フィードフォワード ネットワークにゲート メカニズムを採用して、非線形特徴変換を強化します。
ゲート機構は、2 つの平行な線形層の要素ごとの乗算として定式化されます。
重要な特徴を強調表示することができ、スペックルノイズを抑えた高品質な表現を実現します。
3 つの SAR データセットに対して行われた広範な実験により、提案された CAMixer の優れたパフォーマンスが検証されました。
ソース コードは https://github.com/summitgao/CAMixer で公開されます。

要約(オリジナル)

Synthetic aperture radar (SAR) image change detection is a critical task and has received increasing attentions in the remote sensing community. However, existing SAR change detection methods are mainly based on convolutional neural networks (CNNs), with limited consideration of global attention mechanism. In this letter, we explore Transformer-like architecture for SAR change detection to incorporate global attention. To this end, we propose a convolution and attention mixer (CAMixer). First, to compensate the inductive bias for Transformer, we combine self-attention with shift convolution in a parallel way. The parallel design effectively captures the global semantic information via the self-attention and performs local feature extraction through shift convolution simultaneously. Second, we adopt a gating mechanism in the feed-forward network to enhance the non-linear feature transformation. The gating mechanism is formulated as the element-wise multiplication of two parallel linear layers. Important features can be highlighted, leading to high-quality representations against speckle noise. Extensive experiments conducted on three SAR datasets verify the superior performance of the proposed CAMixer. The source codes will be publicly available at https://github.com/summitgao/CAMixer .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google