FMGNN: Fused Manifold Graph Neural Network

要約

タイトル：FMGNN：Fused Manifold Graph Neural Network

要約：

– グラフ表現学習は、さまざまなグラフタスクで効果を実証してきた。
– しかし、既存の作品の多くはグラフデータをユークリッド空間に埋め込むことを前提としている。
– 複雑な構造（階層的またはリング状の構造など）を持つグラフでのパフォーマンス向上のため、最近の作品では埋め込みモデルを双曲または球面空間に拡張している。
– 異なる多様体からの埋め込みを融合することで、異なるグラフ構造の埋め込み能力をさらに活用できる。
– しかし、既存の埋め込み融合方法は、出力埋め込みを連結または合計することに主眼を置いており、異なる多様体上の同じ頂点の埋め込みの相互作用や整列を考慮していないため、最終的な融合結果に歪みや印象をもたらす可能性がある。
– さらに、異なる座標系からの同じ頂点の埋め込みを融合することも課題である。
– この課題に対処するため、我々は、異なるリーマン多様体にグラフを埋め込み、トレーニング中にこれらの多様体の相互作用と整列を行い、異なる多様体上の頂点間の距離と幾何学的コアセットで選択されたランドマークを介して頂点の埋め込みを融合する新しいGNNアーキテクチャであるFused Manifold Graph Neural Network（FMGNN）を提案する。
– 我々の実験は、FMGNNがノード分類およびリンク予測タスクのベンチマークで強力なベースラインに比べて優れたパフォーマンスを発揮することを示している。

要約(オリジナル)

Graph representation learning has been widely studied and demonstrated effectiveness in various graph tasks. Most existing works embed graph data in the Euclidean space, while recent works extend the embedding models to hyperbolic or spherical spaces to achieve better performance on graphs with complex structures, such as hierarchical or ring structures. Fusing the embedding from different manifolds can further take advantage of the embedding capabilities over different graph structures. However, existing embedding fusion methods mostly focus on concatenating or summing up the output embeddings, without considering interacting and aligning the embeddings of the same vertices on different manifolds, which can lead to distortion and impression in the final fusion results. Besides, it is also challenging to fuse the embeddings of the same vertices from different coordinate systems. In face of these challenges, we propose the Fused Manifold Graph Neural Network (FMGNN), a novel GNN architecture that embeds graphs into different Riemannian manifolds with interaction and alignment among these manifolds during training and fuses the vertex embeddings through the distances on different manifolds between vertices and selected landmarks, geometric coresets. Our experiments demonstrate that FMGNN yields superior performance over strong baselines on the benchmarks of node classification and link prediction tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI