Rotation-equivariant Graph Neural Networks for Learning Glassy Liquids Representations

要約

ガラス状液体の静的構造とそのダイナミクスを関連付けるという難しい問題は、データに隠された複雑なパターンを見つけることに優れたアプローチである機械学習の良いターゲットです。
実際、このアプローチは現在、ガラス状液体コミュニティでホットな話題となっています。最先端技術はグラフ ニューラル ネットワーク (GNN) で構成されています。GNN は、優れた表現力を持っていますが、重いモデルであり、解釈可能性に欠けています。
機械学習のグループ等変表現の分野における最近の進歩に触発され、ロトトランスレーション (SE(3)) 等変性を維持するように制約することで、ガラスの静的構造のロバストな表現を学習する GNN を構築します。
この制約により、同等または減少したパラメータ数での予測能力が大幅に向上しますが、最も重要なことは、目に見えない温度への一般化能力が向上することを示します。
基本的な畳み込み層のアクションがよく知られた回転不変のエキスパート機能に直接関連しているため、ディープ ネットワークのままでありながら、私たちのモデルは他の GNN と比較して解釈可能性が向上しています。
前例のないパフォーマンスを示す転移学習実験を通じて、私たちのネットワークが堅牢な表現を学習することを実証し、これによりメガネの学習された構造秩序パラメータのアイデアを前進させることができます。

要約(オリジナル)

The difficult problem of relating the static structure of glassy liquids and their dynamics is a good target for Machine Learning, an approach which excels at finding complex patterns hidden in data. Indeed, this approach is currently a hot topic in the glassy liquids community, where the state of the art consists in Graph Neural Networks (GNNs), which have great expressive power but are heavy models and lack interpretability. Inspired by recent advances in the field of Machine Learning group-equivariant representations, we build a GNN that learns a robust representation of the glass’ static structure by constraining it to preserve the roto-translation (SE(3)) equivariance. We show that this constraint significantly improves the predictive power at comparable or reduced number of parameters but most importantly, improves the ability to generalize to unseen temperatures. While remaining a Deep network, our model has improved interpretability compared to other GNNs, as the action of our basic convolution layer relates directly to well-known rotation-invariant expert features. Through transfer-learning experiments displaying unprecedented performance, we demonstrate that our network learns a robust representation, which allows us to push forward the idea of a learned structural order parameter for glasses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google