Stability of implicit neural networks for long-term forecasting in dynamical systems

要約

長期間の物理信号を予測することは、偏微分方程式 (PDE) 研究において最も困難なタスクの 1 つです。
従来のソルバーの制限を回避するために、さまざまな深層学習手法が提案されてきました。
これらはすべて自己回帰手法に基づいており、安定性に問題があります。
陰的数値スキームの安定性特性からインスピレーションを得て、安定した自己回帰陰的ニューラル ネットワークを導入します。
このネットワークの予測の安定性を確保するために、スキームの安定性の定義に基づいた理論を開発します。
これにより、重みに厳しい制約が導入され、潜在空間にダイナミクスが伝播するようになります。
私たちの実験結果は安定性特性を検証し、2 つの輸送偏微分方程式の長期予測で改善された結果を示しています。

要約(オリジナル)

Forecasting physical signals in long time range is among the most challenging tasks in Partial Differential Equations (PDEs) research. To circumvent limitations of traditional solvers, many different Deep Learning methods have been proposed. They are all based on auto-regressive methods and exhibit stability issues. Drawing inspiration from the stability property of implicit numerical schemes, we introduce a stable auto-regressive implicit neural network. We develop a theory based on the stability definition of schemes to ensure the stability in forecasting of this network. It leads us to introduce hard constraints on its weights and propagate the dynamics in the latent space. Our experimental results validate our stability property, and show improved results at long-term forecasting for two transports PDEs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google