Dynamic 3D KAN Convolution with Adaptive Grid Optimization for Hyperspectral Image Classification

要約

深いニューラルネットワークは、高次元データ、地上オブジェクトのまばらな分布、スペクトル冗長性など、ハイパースペクトル画像分類におけるいくつかの課題に直面しています。
このホワイトペーパーでは、3D KAN CONVと適応グリッド更新メカニズムで構成される改善された3Dデンセネットモデルに基づいて、過度のパラメーターを導入して冗長な情報をスキップせずに画像機能を抽出しながら、地面のオブジェクト分布により効率的に適応するために、より効率的に適応するために。
ネットワークエッジに学習可能な単変量Bスプライン関数を導入することにより、特に3次元近傍をベクトルに平らにし、B-SPLINEパラメーター化された非線形活性化関数を適用して、従来の3D畳み込みカーネルの固定線形重みを置き換えることにより、Hypersepertal Datasの複雑なスペクトルの非線形関係を正確に捕捉します。
同時に、動的グリッド調整メカニズムを通じて、入力データの統計的特性に基づいてB-Splinesのグリッドポイント位置を適応的に更新し、スプライン関数の分解能を最適化して、スペクトル特徴の非均一な分布と一致し、高次元データモデリングとパラメーターの効率を効果的に改善します。
この特徴は、従来の畳み込みニューラルネットワークと比較して優れた神経スケーリング法則を示し、小型サンプルおよび高ノイズシナリオの過剰適合リスクを軽減します。
Kanetは、ネットワークの深さや幅を増やすことなく、3Dダイナミックエキスパートの畳み込みシステムを通じてモデル表現機能を強化します。
提案された方法は、IN、UP、およびKSCデータセットの優れたパフォーマンスを示し、主流のハイパースペクトル画像分類アプローチを上回ります。

要約(オリジナル)

Deep neural networks face several challenges in hyperspectral image classification, including high-dimensional data, sparse distribution of ground objects, and spectral redundancy, which often lead to classification overfitting and limited generalization capability. To more efficiently adapt to ground object distributions while extracting image features without introducing excessive parameters and skipping redundant information, this paper proposes KANet based on an improved 3D-DenseNet model, consisting of 3D KAN Conv and an adaptive grid update mechanism. By introducing learnable univariate B-spline functions on network edges, specifically by flattening three-dimensional neighborhoods into vectors and applying B-spline-parameterized nonlinear activation functions to replace the fixed linear weights of traditional 3D convolutional kernels, we precisely capture complex spectral-spatial nonlinear relationships in hyperspectral data. Simultaneously, through a dynamic grid adjustment mechanism, we adaptively update the grid point positions of B-splines based on the statistical characteristics of input data, optimizing the resolution of spline functions to match the non-uniform distribution of spectral features, significantly improving the model’s accuracy in high-dimensional data modeling and parameter efficiency, effectively alleviating the curse of dimensionality. This characteristic demonstrates superior neural scaling laws compared to traditional convolutional neural networks and reduces overfitting risks in small-sample and high-noise scenarios. KANet enhances model representation capability through a 3D dynamic expert convolution system without increasing network depth or width. The proposed method demonstrates superior performance on IN, UP, and KSC datasets, outperforming mainstream hyperspectral image classification approaches.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google