Graph Neural Networks with Diverse Spectral Filtering

要約

スペクトル グラフ ニューラル ネットワーク (GNN) は、グラフの畳み込みに多項式フィルターを適用し、すべてのノードが同じフィルターの重みを共有してローカル コンテキストをマイニングすることで、グラフ機械学習で多大な成功を収めています。
成功にもかかわらず、既存のスペクトル GNN は通常、現実世界のネットワークでよく見られるような地域的な異質性を無視する均一なスペクトル フィルタリング設定のため、複雑なネットワーク (WWW など) を扱うことができません。
この問題に取り組むために、私たちは、ノード固有のフィルターの重みを自動的に学習して、変化するローカル構造を適切に活用する、新しい多様なスペクトル フィルター (DSF) フレームワークを提案します。
特に、多様なフィルターの重みは 2 つのコンポーネントで構成されます。1 つはすべてのノード間で共有されるグローバルな重みで、もう 1 つはネットワーク エッジに沿って変化し、個別のグラフ部分から生じるノードの差を反映するローカルな重みです。これは、ローカル情報とグローバル情報のバランスをとるためです。
そのため、グローバルなグラフの特性を捕捉できるだけでなく、さまざまなノード位置を意識して多様なローカル パターンをマイニングすることもできます。
興味深いことに、多様なフィルターの学習を支援する新しい最適化問題を定式化しました。これにより、DSF フレームワークを使用してスペクトル GNN を強化することもできます。
GPR-GNN、BernNet、JacobiConv を含む 3 つの最先端技術に関する提案されたフレームワークを紹介します。
10 のベンチマーク データセットにわたる広範な実験により、私たちのフレームワークがノード分類タスクでモデルのパフォーマンスを一貫して最大 4.92% 向上させ、解釈可能性が強化された多様なフィルターを生成できることが実証されました。
コードは \url{https://github.com/jingweio/DSF} で入手できます。

要約(オリジナル)

Spectral Graph Neural Networks (GNNs) have achieved tremendous success in graph machine learning, with polynomial filters applied for graph convolutions, where all nodes share the identical filter weights to mine their local contexts. Despite the success, existing spectral GNNs usually fail to deal with complex networks (e.g., WWW) due to such homogeneous spectral filtering setting that ignores the regional heterogeneity as typically seen in real-world networks. To tackle this issue, we propose a novel diverse spectral filtering (DSF) framework, which automatically learns node-specific filter weights to exploit the varying local structure properly. Particularly, the diverse filter weights consist of two components — A global one shared among all nodes, and a local one that varies along network edges to reflect node difference arising from distinct graph parts — to balance between local and global information. As such, not only can the global graph characteristics be captured, but also the diverse local patterns can be mined with awareness of different node positions. Interestingly, we formulate a novel optimization problem to assist in learning diverse filters, which also enables us to enhance any spectral GNNs with our DSF framework. We showcase the proposed framework on three state-of-the-arts including GPR-GNN, BernNet, and JacobiConv. Extensive experiments over 10 benchmark datasets demonstrate that our framework can consistently boost model performance by up to 4.92% in node classification tasks, producing diverse filters with enhanced interpretability. Code is available at \url{https://github.com/jingweio/DSF}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google