A quatum inspired neural network for geometric modeling

要約

物理システムを3次元の多体点群として考えることで、SE(3)/E(3)等価GNNのような幾何学的グラフ・ニューラル・ネットワーク(GNN)は有望な性能を示してきた。特に、その効果的なメッセージパッシング力学により、分子や結晶性物質のモデリングに長けている。しかし、現在の幾何学的GNNは、多体系の平均場近似しか提供せず、2体メッセージパッシングに内包されているため、これらの幾何学的グラフ内の複雑な関係を捉えるには不十分である。この限界に対処するため、高次テンソルを用いて多体系を扱う計算物理学で広く採用されているテンソルネットワークが導入されている。しかしながら、これらのテンソル化ネットワークをGNNのメッセージパッシングフレームワークに統合することは、スケーラビリティと対称性保存（例えば、並べ替えや回転）の課題に直面する。そこで我々は、テンソル縮約演算の効率的な実装を実現することで、革新的な等変量行列積状態（MPS）に基づくメッセージパッシング戦略を導入する。我々の手法は、複雑な多体関係を効果的にモデル化し、平均場近似を抑制し、幾何学的グラフ内の対称性を捉える。重要なことは、幾何学的GNNに内在する標準的なメッセージパッシングと層集約モジュールをシームレスに置き換えることである。我々は、古典的なニュートンシステムや量子テンソルハミルトン行列の予測を含むベンチマークタスクにおいて、我々のアプローチの優れた精度を実証的に検証した。我々の知る限り、我々のアプローチは、パラメータ化された幾何学的テンソルネットワークを初めて利用したものである。

要約(オリジナル)

By conceiving physical systems as 3D many-body point clouds, geometric graph neural networks (GNNs), such as SE(3)/E(3) equivalent GNNs, have showcased promising performance. In particular, their effective message-passing mechanics make them adept at modeling molecules and crystalline materials. However, current geometric GNNs only offer a mean-field approximation of the many-body system, encapsulated within two-body message passing, thus falling short in capturing intricate relationships within these geometric graphs. To address this limitation, tensor networks, widely employed by computational physics to handle manybody systems using high-order tensors, have been introduced. Nevertheless, integrating these tensorized networks into the message-passing framework of GNNs faces scalability and symmetry conservation (e.g., permutation and rotation) challenges. In response, we introduce an innovative equivariant Matrix Product State (MPS)-based message-passing strategy, through achieving an efficient implementation of the tensor contraction operation. Our method effectively models complex many-body relationships, suppressing mean-field approximations, and captures symmetries within geometric graphs. Importantly, it seamlessly replaces the standard message-passing and layer-aggregation modules intrinsic to geometric GNNs. We empirically validate the superior accuracy of our approach on benchmark tasks, including predicting classical Newton systems and quantum tensor Hamiltonian matrices. To our knowledge, our approach represents the inaugural utilization of parameterized geometric tensor networks.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL