Gaussian process learning of nonlinear dynamics

要約

科学機械学習における極めて重要なタスクの 1 つは、時系列データから基礎となる動的システムを表現することです。
このようなダイナミクス学習の多くの方法では、状態データの導関数が明示的に必要ですが、これは直接利用できず、従来のように有限差分によって近似できます。
ただし、時間導関数の離散近似は、状態データが不足している場合、および/またはノイズによって破損している場合、推定が不十分になる可能性があり、学習された動的モデルの予測性が損なわれる可能性があります。
この技術的なハードルを克服するために、モデルパラメータの特徴付けのベイズ推論を通じて非線形ダイナミクスを学習する新しい方法を提案します。
この方法は、状態のガウス過程表現を活用し、状態データとその導関数の間の相関を使用して尤度関数を構築しますが、時間導関数の明示的な評価を防ぎます。
ベイジアン スキームを通じて、モデル パラメーターの確率的推定値が事後分布によって与えられるため、ノイズのある状態データと学習プロセスからの不確実性の定量化が容易になります。
具体的には、動的システムの 2 つの典型的なシナリオ、つまりシステムのアフィン構造を使用したパラメータの同定と推定、および事前知識なしの非線形パラメトリック近似に対する提案手法の適用可能性について説明します。

要約(オリジナル)

One of the pivotal tasks in scientific machine learning is to represent underlying dynamical systems from time series data. Many methods for such dynamics learning explicitly require the derivatives of state data, which are not directly available and can be approximated conventionally by finite differences. However, the discrete approximations of time derivatives may result in a poor estimation when state data are scarce and/or corrupted by noise, thus compromising the predictiveness of the learned dynamical models. To overcome this technical hurdle, we propose a new method that learns nonlinear dynamics through a Bayesian inference of characterizing model parameters. This method leverages a Gaussian process representation of states, and constructs a likelihood function using the correlation between state data and their derivatives, yet prevents explicit evaluations of time derivatives. Through a Bayesian scheme, a probabilistic estimate of the model parameters is given by the posterior distribution, and thus a quantification is facilitated for uncertainties from noisy state data and the learning process. Specifically, we will discuss the applicability of the proposed method to two typical scenarios for dynamical systems: parameter identification and estimation with an affine structure of the system, and nonlinear parametric approximation without prior knowledge.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google