On the Expressive Power of Sparse Geometric MPNNs

要約

化学およびその他の科学のアプリケーションに動機付けられて、ノードが3次元位置に対応する幾何学的グラフのメッセージ通過ニューラルネットワークの表現力を研究します。
最近の研究では、そのようなモデルが非異形の幾何学的グラフの一般的なペアを分離できることが示されていますが、まれで複雑なインスタンスを分離できない可能性があります。
ただし、これらの結果は、各ノードが他のすべてのノードの完全な知識を持っている完全に接続されたグラフを想定しています。
対照的に、多くの場合、アプリケーションでは、すべてのノードは少数の最近隣人の知識のみを持っています。
このホワイトペーパーでは、基礎となるグラフが接続されている限り、メッセージ通過ネットワークを回転するネットワークを使用してメッセージ通過ネットワークによって分離できることを示しています。
不変の中間機能のみが許可されている場合、一般的にグローバルに剛性のあるグラフに対して一般的な分離が保証されます。
私たちの理論的保証を達成し、合成および化学ベンチマークの代替アーキテクチャと比較するシンプルなアーキテクチャであるEgennetを紹介します。
私たちのコードは、https：//github.com/yonatansverdlov/e-gennetで入手できます。

要約(オリジナル)

Motivated by applications in chemistry and other sciences, we study the expressive power of message-passing neural networks for geometric graphs, whose node features correspond to 3-dimensional positions. Recent work has shown that such models can separate generic pairs of non-isomorphic geometric graphs, though they may fail to separate some rare and complicated instances. However, these results assume a fully connected graph, where each node possesses complete knowledge of all other nodes. In contrast, often, in application, every node only possesses knowledge of a small number of nearest neighbors. This paper shows that generic pairs of non-isomorphic geometric graphs can be separated by message-passing networks with rotation equivariant features as long as the underlying graph is connected. When only invariant intermediate features are allowed, generic separation is guaranteed for generically globally rigid graphs. We introduce a simple architecture, EGENNET, which achieves our theoretical guarantees and compares favorably with alternative architecture on synthetic and chemical benchmarks. Our code is available at https://github.com/yonatansverdlov/E-GenNet.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google