Framelet Message Passing

要約

グラフ ニューラル ネットワーク (GNN) は、幅広いアプリケーションでチャンピオンを獲得しています。
ニューラル メッセージ パッシングは、隣接する特徴を集約することによる特徴伝播​​の典型的な主要モジュールです。
この作業では、フレームレット メッセージ パッシングと呼ばれる、マルチスケール フレームレット変換に基づく新しいメッセージ パッシングを提案します。
従来の空間的方法とは異なり、ノード メッセージ更新で複数ホップ離れた隣接ノードのフレームレット表現を統合します。
また、ニューラル ODE ソルバーを使用した連続メッセージ パッシングも提案します。
フレームレットのマルチスケール特性により、離散ケースと連続ケースの両方がネットワークの安定性を達成し、オーバースムージングを制限できることが証明されます。
実際のグラフ データセットでの数値実験では、フレームレット メッセージ パッシングの連続バージョンが、異種グラフを学習する際に既存の方法よりも大幅に優れており、従来のノード分類タスクで最先端のパフォーマンスを低い計算コストで実現することが示されています。

要約(オリジナル)

Graph neural networks (GNNs) have achieved champion in wide applications. Neural message passing is a typical key module for feature propagation by aggregating neighboring features. In this work, we propose a new message passing based on multiscale framelet transforms, called Framelet Message Passing. Different from traditional spatial methods, it integrates framelet representation of neighbor nodes from multiple hops away in node message update. We also propose a continuous message passing using neural ODE solvers. It turns both discrete and continuous cases can provably achieve network stability and limit oversmoothing due to the multiscale property of framelets. Numerical experiments on real graph datasets show that the continuous version of the framelet message passing significantly outperforms existing methods when learning heterogeneous graphs and achieves state-of-the-art performance on classic node classification tasks with low computational costs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google