Motif-aware Riemannian Graph Neural Network with Generative-Contrastive Learning

要約

グラフは、複雑な構造の典型的な非ユークリッド データです。
近年、リーマングラフ表現学習がユークリッドグラフ表現学習に代わる刺激的な手法として登場しました。
しかし、リーマン法はまだ初期段階にあります。そのほとんどは、構造の複雑さに関係なく単一の曲率 (半径) を示し、指数/対数マップによる数値の不安定性に悩まされ、モチーフの規則性を捉える能力が不足しています。
上記の問題を考慮して、ラベルなしで多様な曲率多様体におけるモチーフの規則性を捉えるための数値的に安定したエンコーダーを求める \emph{モチーフを意識したリーマングラフ表現学習} の問題を提案します。
この目的を達成するために、生成対比学習を備えた新しいモチーフ認識リーマン モデル (MotifRGC) を提案します。これは、リーマン多様体で自己教師ありの方法でミニマックス ゲームを実行します。
まず、多様な因子を持つ積層によって多様な曲率多様体を構築し、指数/対数マップを安定したカーネル層に置き換える、新しいタイプのリーマンGCN (D-GCN) を提案します。
次に、構築された多様体におけるモチーフの規則性を捉え、外部ラベルなしでモチーフを意識したノード表現を学習するために、モチーフを意識したリーマン生成対比学習を導入します。
実験結果は MofitRGC の優位性を示しています。

要約(オリジナル)

Graphs are typical non-Euclidean data of complex structures. In recent years, Riemannian graph representation learning has emerged as an exciting alternative to Euclidean ones. However, Riemannian methods are still in an early stage: most of them present a single curvature (radius) regardless of structural complexity, suffer from numerical instability due to the exponential/logarithmic map, and lack the ability to capture motif regularity. In light of the issues above, we propose the problem of \emph{Motif-aware Riemannian Graph Representation Learning}, seeking a numerically stable encoder to capture motif regularity in a diverse-curvature manifold without labels. To this end, we present a novel Motif-aware Riemannian model with Generative-Contrastive learning (MotifRGC), which conducts a minmax game in Riemannian manifold in a self-supervised manner. First, we propose a new type of Riemannian GCN (D-GCN), in which we construct a diverse-curvature manifold by a product layer with the diversified factor, and replace the exponential/logarithmic map by a stable kernel layer. Second, we introduce a motif-aware Riemannian generative-contrastive learning to capture motif regularity in the constructed manifold and learn motif-aware node representation without external labels. Empirical results show the superiority of MofitRGC.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google