Enhancing Predictive Capabilities in Data-Driven Dynamical Modeling with Automatic Differentiation: Koopman and Neural ODE Approaches

要約

Koopman 演算子のデータ駆動型近似は、複雑なダイナミクスを特徴とするシステムの時間発展を予測するのに有望です。
これらの手法の中でも、EDMD-DL (Extended Dynamic Mode Decomposition with Dictionary Learning) と呼ばれるアプローチが大きな注目を集めています。
ここでは、オブザーバブルの辞書とそれに対応するコープマン演算子の近似の両方を同時に決定する EDMD-DL の修正を示します。
このイノベーションは自動微分を利用して、擬似逆関数による勾配降下計算を容易にします。
また、いくつかの代替手法のパフォーマンスについても取り上げます。
我々は、観測可能な空間内のダイナミクスを支配する線形高次元システムの直接時間積分を含む「純粋な」クープマンアプローチを評価します。
さらに、システムがタイム ステップごとに状態と観測値の空間を交互に切り替える、修正されたアプローチを検討します。このアプローチは、真のクープマン演算子表現の線形性をもはや満たしていません。
さらに比較するために、状態空間アプローチ (ニューラル ODE) も適用します。
定常、振動、カオスアトラクターを特徴とする 2 次元および 3 次元の常微分方程式系と、ますます複雑で複雑な挙動を示す偏微分方程式を含む系を検討します。
私たちのフレームワークは EDMD-DL を大幅に上回ります。
さらに、状態空間アプローチは、時間発展全体が観測可能な空間で発生する「純粋な」クープマン アプローチと比較して、優れたパフォーマンスを提供します。
ただし、コープマン アプローチの時間発展が各タイム ステップで状態と観測値の間で切り替わる場合、その予測は状態空間アプローチの予測と同等になります。

要約(オリジナル)

Data-driven approximations of the Koopman operator are promising for predicting the time evolution of systems characterized by complex dynamics. Among these methods, the approach known as extended dynamic mode decomposition with dictionary learning (EDMD-DL) has garnered significant attention. Here we present a modification of EDMD-DL that concurrently determines both the dictionary of observables and the corresponding approximation of the Koopman operator. This innovation leverages automatic differentiation to facilitate gradient descent computations through the pseudoinverse. We also address the performance of several alternative methodologies. We assess a ‘pure’ Koopman approach, which involves the direct time-integration of a linear, high-dimensional system governing the dynamics within the space of observables. Additionally, we explore a modified approach where the system alternates between spaces of states and observables at each time step — this approach no longer satisfies the linearity of the true Koopman operator representation. For further comparisons, we also apply a state space approach (neural ODEs). We consider systems encompassing two and three-dimensional ordinary differential equation systems featuring steady, oscillatory, and chaotic attractors, as well as partial differential equations exhibiting increasingly complex and intricate behaviors. Our framework significantly outperforms EDMD-DL. Furthermore, the state space approach offers superior performance compared to the ‘pure’ Koopman approach where the entire time evolution occurs in the space of observables. When the temporal evolution of the Koopman approach alternates between states and observables at each time step, however, its predictions become comparable to those of the state space approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google