Transformer and Snowball Graph Convolution Learning for Brain functional network Classification

要約

先進的な深層学習手法、特にグラフニューラルネットワーク（GNN）は、脳機能ネットワークデータから学習し、脳疾患と健康の機能的なつながりを特定することがますます期待されている。本論文では、脳機能ネットワーク分類のための新しいTransformer and snowball encoding networks (TSEN)を提案し、全グラフ表現を学習するために、グラフスノーボール接続を持つTransformerアーキテクチャをGNNsに導入しました。TSENは、グラフ雪だるま式接続とグラフTransformerを雪だるま式エンコーディング層で結合し、脳機能ネットワークのマルチスケール情報とグローバルパターンを捉える力を強化した。また、TSENはTransformer構造の位置埋め込みとして雪だるま式グラフ畳み込みを導入し、局所的なパターンを自然に捉えるシンプルかつ効果的な方法とした。提案モデルを2つの大規模脳機能ネットワークデータセットで評価した結果、TSENは最先端のGNNモデルやグラフ変換器ベースのGNNモデルを凌駕することが実証された。

要約(オリジナル)

Advanced deep learning methods, especially graph neural networks (GNNs), are increasingly expected to learn from brain functional network data and identify the functional connections between brain disorder and health. In this paper, we proposed a novel Transformer and snowball encoding networks (TSEN) for brain functional network classification, which introduced Transformer architecture with graph snowball connection into GNNs for learning whole-graph representation. TSEN combined graph snowball connection with graph Transformer by snowball encoding layers, which enhanced the power to capture multi-scale information and global patterns of brain functional networks. TSEN also introduced snowball graph convolution as position embedding in Transformer structure, which was a simple yet effective method for capturing local patterns naturally. We evaluated the proposed model by two large-scale brain functional network datasets, and the results demonstrated that TSEN outperformed the state-of-the-art GNN models and the graph-transformer based GNN models.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL