Grafting Transformer on Automatically Designed Convolutional Neural Network for Hyperspectral Image Classification

要約

ハイパースペクトル画像は豊富な空間情報とスペクトル情報を持ち、さまざまな土地被覆オブジェクトを区別するための強力な基盤を提供するため、ハイパースペクトル画像（HSI）の分類は決定のホットトピックとなっています。
深層学習技術の開発の恩恵を受けて、深層学習ベースのHSI分類方法は有望なパフォーマンスを達成しました。
最近、HSI分類のためにいくつかのニューラルアーキテクチャ検索（NAS）アルゴリズムが提案されました。これにより、HSI分類の精度がさらに向上します。
この論文では、NASとTransformerを組み合わせて、HSI分類タスクを初めて処理します。
以前の研究と比較して、提案された方法には2つの主な違いがあります。
まず、以前のHSI分類NAS手法で設計された探索空間を再検討し、空間支配セルとスペク​​トル支配セルで構成される新しいハイブリッド探索空間を提案します。
以前の研究で提案された探索空間と比較して、提案されたハイブリッド探索空間は、HSIデータの特性とより一致しています。つまり、HSIは比較的低い空間分解能と非常に高いスペクトル分解能を持っています。
次に、分類の精度をさらに向上させるために、自動設計された畳み込みニューラルネットワーク（CNN）に新しいトランスモジュールを移植して、CNNによって学習されたローカル領域に焦点を当てた機能にグローバル情報を追加しようとします。
3つの公開HSIデータセットでの実験結果は、提案された方法が、手動で設計されたネットワークやNASベースのHSI分類方法など、比較アプローチよりもはるかに優れたパフォーマンスを達成することを示しています。
特に、最近キャプチャされたデータセットであるヒューストン大学では、全体的な精度が6パーセントポイント近く向上しています。
コードはhttps://github.com/Cecilia-xue/HyT-NASで入手できます。

要約(オリジナル)

Hyperspectral image (HSI) classification has been a hot topic for decides, as hyperspectral images have rich spatial and spectral information and provide strong basis for distinguishing different land-cover objects. Benefiting from the development of deep learning technologies, deep learning based HSI classification methods have achieved promising performance. Recently, several neural architecture search (NAS) algorithms have been proposed for HSI classification, which further improve the accuracy of HSI classification to a new level. In this paper, NAS and Transformer are combined for handling HSI classification task for the first time. Compared with previous work, the proposed method has two main differences. First, we revisit the search spaces designed in previous HSI classification NAS methods and propose a novel hybrid search space, consisting of the space dominated cell and the spectrum dominated cell. Compared with search spaces proposed in previous works, the proposed hybrid search space is more aligned with the characteristic of HSI data, that is, HSIs have a relatively low spatial resolution and an extremely high spectral resolution. Second, to further improve the classification accuracy, we attempt to graft the emerging transformer module on the automatically designed convolutional neural network (CNN) to add global information to local region focused features learned by CNN. Experimental results on three public HSI datasets show that the proposed method achieves much better performance than comparison approaches, including manually designed network and NAS based HSI classification methods. Especially on the most recently captured dataset Houston University, overall accuracy is improved by nearly 6 percentage points. Code is available at: https://github.com/Cecilia-xue/HyT-NAS.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google