Thermalizer: Stable autoregressive neural emulation of spatiotemporal chaos

要約

時空間システムの自己回帰サロゲートモデル（または\ textit {エミュレーター}）は、科学と工学全体に広範なアプリケーションを備えた高速で近似予測の道を提供します。
ただし、推論の時点では、これらのモデルは一般に、軌跡の発散につながるエラーの蓄積により、長期間のロールアウトにわたって予測を提供することができません。
本質的に、エミュレーターは分布から動作し、オンライン配信を制御することは大規模な設定で迅速に扱いにくいものになります。
この基本的な問題に対処し、不変の尺度を認める時期システムに焦点を当てるために、拡散モデルを活用して、この不変尺度のスコアの暗黙的な推定器を取得します。
スコア関数のこのモデルを使用して、推論中にオンザフライ除去を適用することにより、自己回帰エミュレータのロールアウトを安定させることができることを示します。
エミュレータのロールアウトの熱化は、乱流と混oticとした挙動を示す複雑なシステムで、安定した予測の時間期間を1桁延長し、神経エミュレーションの文脈で拡散モデルの新しいアプリケーションを開くことが示されています。

要約(オリジナル)

Autoregressive surrogate models (or \textit{emulators}) of spatiotemporal systems provide an avenue for fast, approximate predictions, with broad applications across science and engineering. At inference time, however, these models are generally unable to provide predictions over long time rollouts due to accumulation of errors leading to diverging trajectories. In essence, emulators operate out of distribution, and controlling the online distribution quickly becomes intractable in large-scale settings. To address this fundamental issue, and focusing on time-stationary systems admitting an invariant measure, we leverage diffusion models to obtain an implicit estimator of the score of this invariant measure. We show that this model of the score function can be used to stabilize autoregressive emulator rollouts by applying on-the-fly denoising during inference, a process we call \textit{thermalization}. Thermalizing an emulator rollout is shown to extend the time horizon of stable predictions by an order of magnitude in complex systems exhibiting turbulent and chaotic behavior, opening up a novel application of diffusion models in the context of neural emulation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google