Rethinking Spectral Graph Neural Networks with Spatially Adaptive Filtering

要約

スペクトル グラフ ニューラル ネットワーク (GNN) は理論的にはスペクトル領域で十分に確立されていますが、実際には多項式近似に依存しているため、空間領域との深いつながりが暗示されています。
これまでの研究ではスペクトル GNN を空間的な観点から調べることはほとんどないため、その空間領域の解釈可能性は依然としてわかりにくいままです。たとえば、空間領域のスペクトル GNN によって本質的にどのような情報がエンコードされているのかなどです。
この論文では、この質問に答えるために、スペクトル フィルタリングと空間集約の間の理論的な関係を確立し、スペクトル フィルタリングが元のグラフを空間集約用に明示的に計算された適応された新しいグラフに暗黙的に導くという固有の相互作用を明らかにします。
理論的調査と経験的調査の両方により、適応された新しいグラフが非局所性を示すだけでなく、ノード間のラベルの一貫性を反映するために符号付きエッジの重みを調整できることが明らかになりました。
したがって、これらの発見は、空間領域におけるスペクトル GNN の解釈可能な役割を強調し、グローバル情報を無視する固定次数多項式を超えてグラフ スペクトル フィルターを再考するよう促します。
理論的発見に基づいて、私たちは最先端のスペクトル GNN を再考し、補助的な非局所集約のためのスペクトル フィルタリングによって適応された新しいグラフを活用する新しい空間適応フィルタリング (SAF) フレームワークを提案します。
特に、私たちが提案する SAF は、グローバルな観点からノードの類似性と非類似性の両方を包括的にモデル化するため、長距離の依存関係やグラフの異質性に関連する GNN の永続的な欠陥を軽減します。
13 ノード分類ベンチマークにわたる広範な実験により、私たちが提案したフレームワークが最先端のモデルよりも優れていることが実証されました。

要約(オリジナル)

Whilst spectral Graph Neural Networks (GNNs) are theoretically well-founded in the spectral domain, their practical reliance on polynomial approximation implies a profound linkage to the spatial domain. As previous studies rarely examine spectral GNNs from the spatial perspective, their spatial-domain interpretability remains elusive, e.g., what information is essentially encoded by spectral GNNs in the spatial domain? In this paper, to answer this question, we establish a theoretical connection between spectral filtering and spatial aggregation, unveiling an intrinsic interaction that spectral filtering implicitly leads the original graph to an adapted new graph, explicitly computed for spatial aggregation. Both theoretical and empirical investigations reveal that the adapted new graph not only exhibits non-locality but also accommodates signed edge weights to reflect label consistency among nodes. These findings thus highlight the interpretable role of spectral GNNs in the spatial domain and inspire us to rethink graph spectral filters beyond the fixed-order polynomials, which neglect global information. Built upon the theoretical findings, we revisit the state-of-the-art spectral GNNs and propose a novel Spatially Adaptive Filtering (SAF) framework, which leverages the adapted new graph by spectral filtering for an auxiliary non-local aggregation. Notably, our proposed SAF comprehensively models both node similarity and dissimilarity from a global perspective, therefore alleviating persistent deficiencies of GNNs related to long-range dependencies and graph heterophily. Extensive experiments over 13 node classification benchmarks demonstrate the superiority of our proposed framework to the state-of-the-art models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google