Model-Agnostic Knowledge Guided Correction for Improved Neural Surrogate Rollout

要約

物理システムの進化のモデリングは、科学と工学の多くのアプリケーションにとって重要です。
これらのシステムの進化は部分微分方程式（PDE）によって支配されているため、これらのシステムを高い精度で解決する多くの計算シミュレーションがあります。
ただし、これらのシミュレーションには高い計算コストが発生するため、大規模な分析に使用することは不可能です。
シミュレータに人気のある代替品は、データ駆動型の方法で訓練され、はるかに計算効率が高いニューラルネットワークの代理です。
ただし、これらのサロゲートモデルは、特にトレーニングデータの不足に直面した場合、自動網目上で使用した場合、高いロールアウトエラーに悩まされます。
既存の作業は、モデルの最適化に直接物理的な損失項を含めるか、計算シミュレーターをニューラルネットワークに「微分可能な層」として組み込むことにより、サロゲートロールアウトエラーを改善することを提案しています。
これらのアプローチには両方とも課題があり、身体的損失関数は、特にレガシーシミュレーターで、常に利用可能ではない勾配を必要とする、硬いPDEとシミュレーター層のゆっくりした収束に苦しんでいます。
補強学習（ハイパー）モデルを備えたハイブリッドPDE予測因子を提案します。モデル存在、RLベースのコスト認識モデルは、ニューラルの代理、RL決定モデル、および物理シミュレーター（勾配の有無にかかわらず）を組み合わせて、サロゲートロールアウトエラーを大幅に減らします。
分散内のロールアウトエラーを47％〜78％削減することに加えて、Hyperは、身体的状態の変化に適応し、騒音の腐敗に耐性のあるインテリジェントなポリシーを学習します。
https://github.com/scailab/hyperで利用可能なコード。

要約(オリジナル)

Modeling the evolution of physical systems is critical to many applications in science and engineering. As the evolution of these systems is governed by partial differential equations (PDEs), there are a number of computational simulations which resolve these systems with high accuracy. However, as these simulations incur high computational costs, they are infeasible to be employed for large-scale analysis. A popular alternative to simulators are neural network surrogates which are trained in a data-driven manner and are much more computationally efficient. However, these surrogate models suffer from high rollout error when used autoregressively, especially when confronted with training data paucity. Existing work proposes to improve surrogate rollout error by either including physical loss terms directly in the optimization of the model or incorporating computational simulators as `differentiable layers’ in the neural network. Both of these approaches have their challenges, with physical loss functions suffering from slow convergence for stiff PDEs and simulator layers requiring gradients which are not always available, especially in legacy simulators. We propose the Hybrid PDE Predictor with Reinforcement Learning (HyPER) model: a model-agnostic, RL based, cost-aware model which combines a neural surrogate, RL decision model, and a physics simulator (with or without gradients) to reduce surrogate rollout error significantly. In addition to reducing in-distribution rollout error by 47%-78%, HyPER learns an intelligent policy that is adaptable to changing physical conditions and resistant to noise corruption. Code available at https://github.com/scailab/HyPER.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google