Torsion Graph Neural Networks

要約

幾何深層学習 (GDL) モデルは、非ユークリッド データの分析に大きな可能性を秘めていることが実証されています。
これらは、非ユークリッド データの幾何学的および位相情報をエンドツーエンドの深層学習アーキテクチャに組み込むために開発されました。
グラフ ニューラル ネットワーク (GNN) における離散リッチ曲率の最近の成功を動機として、我々は、分析的な Torsion 強化グラフ ニューラル ネットワーク モデルである TorGNN を提案します。
本質的なアイデアは、解析的なねじれベースの重み公式を使用してグラフの局所構造を特徴付けることです。
数学的には、解析的ねじれは、ホモトピー等価であるが同型ではない空間を区別できる位相不変量です。
TorGNN では、エッジごとに、対応するローカル単純複合体が識別され、次に (このローカル単純複合体の) 解析的ねじれが計算され、さらにメッセージ パッシング プロセスで (このエッジの) 重みとして使用されます。
TorGNN モデルは、16 種類のネットワークからのリンク予測タスクと 3 種類のネットワークからのノード分類タスクで検証されています。
当社の TorGNN は両方のタスクで優れたパフォーマンスを達成でき、さまざまな最先端のモデルを上回るパフォーマンスを発揮できることがわかっています。
これは、解析的ねじれがグラフ構造の特性評価において非常に効率的な位相不変量であり、GNN のパフォーマンスを大幅に向上できることを示しています。

要約(オリジナル)

Geometric deep learning (GDL) models have demonstrated a great potential for the analysis of non-Euclidian data. They are developed to incorporate the geometric and topological information of non-Euclidian data into the end-to-end deep learning architectures. Motivated by the recent success of discrete Ricci curvature in graph neural network (GNNs), we propose TorGNN, an analytic Torsion enhanced Graph Neural Network model. The essential idea is to characterize graph local structures with an analytic torsion based weight formula. Mathematically, analytic torsion is a topological invariant that can distinguish spaces which are homotopy equivalent but not homeomorphic. In our TorGNN, for each edge, a corresponding local simplicial complex is identified, then the analytic torsion (for this local simplicial complex) is calculated, and further used as a weight (for this edge) in message-passing process. Our TorGNN model is validated on link prediction tasks from sixteen different types of networks and node classification tasks from three types of networks. It has been found that our TorGNN can achieve superior performance on both tasks, and outperform various state-of-the-art models. This demonstrates that analytic torsion is a highly efficient topological invariant in the characterization of graph structures and can significantly boost the performance of GNNs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google