Uncertainty and Structure in Neural Ordinary Differential Equations

要約

ニューラル常微分方程式 (ODE) は、動的システム用の深層学習モデルの新しいクラスです。
これらは、観察された軌跡 (つまり、逆問題) から ODE ベクトル場を学習する場合に特に役立ちます。
ここでは、科学と工学への応用に関連するこれらのモデルの側面を検討します。
科学的予測には通常、構造化された不確実性の推定が必要です。
最初の貢献として、ラプラス近似のような基本的で軽量なベイジアン深層学習技術をニューラル ODE に適用して、構造化された意味のある不確実性の定量化が可能であることを示します。
しかし、科学の領域では、入手可能な情報は多くの場合、生の軌跡を超えており、保存則などの機構的な知識も含まれています。
私たちは、最近提案された 2 つのニューラル ODE フレームワーク、シンプレクティック ニューラル ODE とニューラル ODE で強化された物理モデル上で、機械論的な知識と不確実性の定量化がどのように相互作用するかを調査します。
特に、不確実性は、トレーニングされたモデルの予測能力よりも直接的に機構情報の影響を反映します。
逆も同様で、構造はニューラル ODE の外挿能力を向上させることができます。この事実は、実際には不確実性の推定を通じて最もよく評価できます。
私たちの実験分析は、低次元 ODE 問題と高次元偏微分方程式の両方に対するラプラス手法の有効性を示しています。

要約(オリジナル)

Neural ordinary differential equations (ODEs) are an emerging class of deep learning models for dynamical systems. They are particularly useful for learning an ODE vector field from observed trajectories (i.e., inverse problems). We here consider aspects of these models relevant for their application in science and engineering. Scientific predictions generally require structured uncertainty estimates. As a first contribution, we show that basic and lightweight Bayesian deep learning techniques like the Laplace approximation can be applied to neural ODEs to yield structured and meaningful uncertainty quantification. But, in the scientific domain, available information often goes beyond raw trajectories, and also includes mechanistic knowledge, e.g., in the form of conservation laws. We explore how mechanistic knowledge and uncertainty quantification interact on two recently proposed neural ODE frameworks – symplectic neural ODEs and physical models augmented with neural ODEs. In particular, uncertainty reflects the effect of mechanistic information more directly than the predictive power of the trained model could. And vice versa, structure can improve the extrapolation abilities of neural ODEs, a fact that can be best assessed in practice through uncertainty estimates. Our experimental analysis demonstrates the effectiveness of the Laplace approach on both low dimensional ODE problems and a high dimensional partial differential equation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google