Exact Inference for Continuous-Time Gaussian Process Dynamics

要約

物理システムは、多くの場合、連続時間動的システムを介して記述できます。
実際には、真のシステムは不明なことが多く、測定データから学習する必要があります。
データは通常、離散時間で収集されるため、たとえば
センサーによるガウス過程 (GP) ダイナミクス モデル学習のほとんどのメソッドは、1 ステップ先の予測に基づいてトレーニングされます。
これは、いくつかのシナリオで問題となる可能性があります。
測定値が不規則にサンプリングされたタイムステップで提供される場合、または物理的なシステム特性を保存する必要がある場合。
したがって、私たちは真の連続時間ダイナミクスの GP モデルを目指します。
高次数値積分器は、ダイナミクス関数を任意の精度で離散化することで、この問題に対処するために必要なツールを提供します。
多くの高次積分器は中間タイム ステップでのダイナミクス評価を必要とするため、正確な GP 推論は困難になります。
以前の研究では、この問題は、変分推論を使用して GP 事後近似を行うことで解決されることがよくありました。
ただし、多くのシナリオでは、正確な GP 推論が望ましいです。
数学的に保証されているためです。
直接推論を扱いやすくするために、マルチステップ インテグレータとテイラー インテグレータを活用することを提案します。
これらのタイプのインテグレータ向けに柔軟な推論スキームを導出する方法を示します。
さらに、学習された事後関数から一貫したダイナミクス関数を引き出すことを可能にする、調整されたサンプリング スキームを導き出します。
これは、ダイナミクス モデルから一貫した予測をサンプリングするために重要です。
私たちは、私たちのアプローチが連続時間システムの正確な表現をもたらすことを経験的および理論的に実証します。

要約(オリジナル)

Physical systems can often be described via a continuous-time dynamical system. In practice, the true system is often unknown and has to be learned from measurement data. Since data is typically collected in discrete time, e.g. by sensors, most methods in Gaussian process (GP) dynamics model learning are trained on one-step ahead predictions. This can become problematic in several scenarios, e.g. if measurements are provided at irregularly-sampled time steps or physical system properties have to be conserved. Thus, we aim for a GP model of the true continuous-time dynamics. Higher-order numerical integrators provide the necessary tools to address this problem by discretizing the dynamics function with arbitrary accuracy. Many higher-order integrators require dynamics evaluations at intermediate time steps making exact GP inference intractable. In previous work, this problem is often tackled by approximating the GP posterior with variational inference. However, exact GP inference is preferable in many scenarios, e.g. due to its mathematical guarantees. In order to make direct inference tractable, we propose to leverage multistep and Taylor integrators. We demonstrate how to derive flexible inference schemes for these types of integrators. Further, we derive tailored sampling schemes that allow to draw consistent dynamics functions from the learned posterior. This is crucial to sample consistent predictions from the dynamics model. We demonstrate empirically and theoretically that our approach yields an accurate representation of the continuous-time system.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google