Identifying Generalized Neural Representation Across Hamiltonian Manifolds via Meta-learning

要約

物理学のためのディープラーニングにおける最近の進歩は、物理学のプライアや帰納的バイアスをニューラルネットワークに組み込むことによって、対象システムの共有表現を発見することに焦点を当てている。しかし、これらのアプローチはシステム固有のものであり、異なる法則に支配される新しい物理システムに容易に適応することはできない。例えば、質量バネ系で訓練されたニューラルネットワークは、二体系や、支配する物理法則が異なる他の系の挙動を正確に予測することはできない。この研究では、グラフ・ニューラル・ネットワークで我々のシステムをモデル化し、メタ学習アルゴリズムを採用することで、モデルがタスクの分布にわたって経験を積み、新しい物理学に適応できるようにする。我々のアプローチは、ハミルトン系のデータ分布の共通の特徴である、様々なハミルトン多様体にわたる一般的な表現を学習することを目的としている。我々は、それぞれが固有のダイナミクスに支配される異なる物理系のデータセットを用いて我々のモデルを学習し、未知の物理を持つ新しいタイプの力学系に対する性能を評価する。その結果、メタ学習されたモデルは、メタ学習段階では未知であった新しい系に効果的に適応することが示される。さらに、メタ学習されたニューラルネットワークが学習した表現を解析し、様々な物理系で共有されるハミルトン方程式の一般化可能な表現を特定する。我々の発見は、メタ学習されたモデルが、力学系に固有のハミルトン多様体にわたる一般化可能な表現を捉えることができることを示唆している。

要約(オリジナル)

Recent advancements in deep learning for physics have focused on discovering shared representations of target systems by incorporating physics priors or inductive biases into neural networks. However, these approaches are system-specific and do not allow for easy adaptation to new physical systems governed by different laws. For example, a neural network trained on a mass-spring system cannot accurately predict the behavior of a two-body system or any other system with different governing physics. In this work, we model our system with a graph neural network and employ a meta-learning algorithm to enable the model to gain experience over a distribution of tasks and make it adapt to new physics. Our approach aims to learn a general representation across the various Hamiltonian manifolds, which is a common feature of the data distribution of Hamiltonian systems. We train our model using a dataset of different physical systems, each governed by its own inherent dynamics, and evaluate its performance on a new type of dynamical system with unknown physics. Our results show that the meta-trained model effectively adapts to the new system, which was unseen during the meta-training phase. Furthermore, we analyze the representation learned by the meta-trained neural network to identify a generalizable representation of Hamilton’s equation that is shared across various physical systems. Our findings suggest that the meta-learned model can capture the generalizable representation across Hamiltonian manifolds inherent in dynamical systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL