Beyond Closure Models: Learning Chaotic-Systems via Physics-Informed Neural Operators

要約

カオスシステムの長期的な挙動を正確に予測することは、気候モデリングなどのさまざまなアプリケーションにとって非常に重要です。
ただし、このような予測を達成するには、通常、カオス システムの不安定な性質を考慮して高密度の時空間グリッド上で反復計算を行う必要があり、これはコストがかかり、現実世界の多くの状況では非現実的です。
このような完全解像度のシミュレーションに対する代替アプローチは、粗いグリッドを使用し、その誤差を \textit{クロージャー モデル} を通じて修正することです。これは、粗いグリッド シミュレーションでは捕捉されない細かいスケールから全体の情報を近似します。
最近、クロージャ モデリングに ML アプローチが使用されていますが、通常、高価な完全解像度シミュレーション (FRS) からの大量のトレーニング サンプルが必要です。
この研究では、さらに根本的な制限を証明します。つまり、クロージャ モデルを学習するための標準的なアプローチでは、モデルがどれほど大きくても、一般的な問題に対して大きな近似誤差が発生し、それはマッピングの一意性の非性に起因します。
。
私たちは、クロージャ モデルや粗いグリッド ソルバーを使用しないことでこの制限を克服する、物理情報に基づくニューラル オペレーター (PINO) を使用した代替のエンドツーエンド学習アプローチを提案します。
まず粗いグリッド ソルバーからのデータで PINO モデルをトレーニングし、次に細かいグリッドで (少量の) FRS と物理ベースの損失を使用して微調整します。
ニューラル オペレーターの離散化のない性質は、クロージャー モデルが直面する粗いグリッドの制限を受けないことを意味し、カオス システムの長期統計を近似できることが証明されています。
私たちの実験では、PINO モデルは相対誤差 $\sim 5\%$ で FRS と比較して 120 倍の高速化を達成しました。
対照的に、粗いグリッド ソルバーと組み合わせたクロージャ モデルは、PINO よりも $58$x 遅くなりますが、クロージャ モデルが同じ FRS データセットでトレーニングされた場合、誤差 $\sim205\%$ がはるかに高くなります。

要約(オリジナル)

Accurately predicting the long-term behavior of chaotic systems is crucial for various applications such as climate modeling. However, achieving such predictions typically requires iterative computations over a dense spatiotemporal grid to account for the unstable nature of chaotic systems, which is expensive and impractical in many real-world situations. An alternative approach to such a full-resolved simulation is using a coarse grid and then correcting its errors through a \textit{closure model}, which approximates the overall information from fine scales not captured in the coarse-grid simulation. Recently, ML approaches have been used for closure modeling, but they typically require a large number of training samples from expensive fully-resolved simulations (FRS). In this work, we prove an even more fundamental limitation, i.e., the standard approach to learning closure models suffers from a large approximation error for generic problems, no matter how large the model is, and it stems from the non-uniqueness of the mapping. We propose an alternative end-to-end learning approach using a physics-informed neural operator (PINO) that overcomes this limitation by not using a closure model or a coarse-grid solver. We first train the PINO model on data from a coarse-grid solver and then fine-tune it with (a small amount of) FRS and physics-based losses on a fine grid. The discretization-free nature of neural operators means that they do not suffer from the restriction of a coarse grid that closure models face, and they can provably approximate the long-term statistics of chaotic systems. In our experiments, our PINO model achieves a 120x speedup compared to FRS with a relative error $\sim 5\%$. In contrast, the closure model coupled with a coarse-grid solver is $58$x slower than PINO while having a much higher error $\sim205\%$ when the closure model is trained on the same FRS dataset.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google