Is Distance Matrix Enough for Geometric Deep Learning?

要約

タイトル：幾何的深層学習のために距離行列は十分か？

要約：

– グラフニューラルネットワーク（GNN）は、分子動力学シミュレーションなど、与えられたグラフの幾何学的性質を利用するタスクによく使われる。
– 幾何グラフの距離行列には、完全な幾何情報が含まれているが、メッセージパッシングニューラルネットワーク（MPNN）は、この幾何情報を学習するのに不十分であることが実証されている。
– この研究では、MPNNが距離行列から区別できない反例のファミリーを拡張し、新しい対称幾何グラフのファミリーを構築する。
– この研究では、距離行列に含まれる豊富な幾何学的情報を効果的に利用する$k$-DisGNNを提案する。
– $k \geq 3$のとき、$k$-DisGNNが幾何グラフを区別するための汎用性を証明し、既存のよく設計された幾何学モデルが特別な場合として$k$-DisGNNによって統一できることを示す。
– 重要なことは、幾何的深層学習と従来のグラフ表現学習の間に接続を確立し、グラフ構造学習のために originally 設計された高度に表現力の高いGNNモデルが、印象的な性能で幾何的深層学習問題にも適用できることを示すこと。
– 実験結果は、この理論を確認する。

要約(オリジナル)

Graph Neural Networks (GNNs) are often used for tasks involving the geometry of a given graph, such as molecular dynamics simulation. Although the distance matrix of a geometric graph contains complete geometric information, it has been demonstrated that Message Passing Neural Networks (MPNNs) are insufficient for learning this geometry. In this work, we expand on the families of counterexamples that MPNNs are unable to distinguish from their distance matrices, by constructing families of novel and symmetric geometric graphs. We then propose $k$-DisGNNs, which can effectively exploit the rich geometry contained in the distance matrix. We demonstrate the high expressive power of our models by proving the universality of $k$-DisGNNs for distinguishing geometric graphs when $k \geq 3$, and that some existing well-designed geometric models can be unified by $k$-DisGNNs as special cases. Most importantly, we establish a connection between geometric deep learning and traditional graph representation learning, showing that those highly expressive GNN models originally designed for graph structure learning can also be applied to geometric deep learning problems with impressive performance, and that existing complex, equivariant models are not the only solution. Experimental results verify our theory.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI