Estimating unknown parameters in differential equations with a reinforcement learning based PSO method

要約

微分方程式は、複雑な動的システム内の相互作用をモデル化するための基礎的かつ強力なフレームワークを提供し、多くの科学分野に広く適用されています。
この分野における共通の課題の 1 つは、これらの動的な関係の未知のパラメータを推定することです。
ただし、従来の数値最適化手法は初期パラメーター値の選択に依存しているため、局所最適化が起こりやすくなります。
一方、ディープラーニングやベイジアン手法では、特定の微分方程式に基づいてモデルをトレーニングする必要があるため、汎用性が低くなります。
本論文は粒子群最適化アルゴリズムから粒子の概念を導入することにより、微分方程式のパラメータ推定問題を最適化問題として再定式化する。
この論文は、強化学習ベースの粒子群最適化 (RLLPSO) に基づいて、微分方程式の未知のパラメーターを推定するための新しい方法 DERLPSO を提案します。
3 つの典型的な常微分方程式に対するパフォーマンスを、RLLPSO アルゴリズム、従来の数値手法、深層学習アプローチ、ベイジアン手法などの最先端の手法と比較しました。
実験結果は、当社の DERLPSO がパフォーマンスの点で他の手法を常に上回り、平均二乗誤差 1.13e-05 を達成し、他の手法と比較して誤差を約 4 桁削減できることを示しています。
常微分方程式とは別に、私たちの DERLPSO は偏微分方程式の未知のパラメーターの推定にも大きな期待を示します。
本論文で提案するDERLPSO法は精度が高く、パラメータの初期値に依存せず、高い汎用性と安定性を備えています。
この研究は、微分方程式の未知のパラメーター推定に関する新しい洞察を提供します。

要約(オリジナル)

Differential equations offer a foundational yet powerful framework for modeling interactions within complex dynamic systems and are widely applied across numerous scientific fields. One common challenge in this area is estimating the unknown parameters of these dynamic relationships. However, traditional numerical optimization methods rely on the selection of initial parameter values, making them prone to local optima. Meanwhile, deep learning and Bayesian methods require training models on specific differential equations, resulting in poor versatility. This paper reformulates the parameter estimation problem of differential equations as an optimization problem by introducing the concept of particles from the particle swarm optimization algorithm. Building on reinforcement learning-based particle swarm optimization (RLLPSO), this paper proposes a novel method, DERLPSO, for estimating unknown parameters of differential equations. We compared its performance on three typical ordinary differential equations with the state-of-the-art methods, including the RLLPSO algorithm, traditional numerical methods, deep learning approaches, and Bayesian methods. The experimental results demonstrate that our DERLPSO consistently outperforms other methods in terms of performance, achieving an average Mean Square Error of 1.13e-05, which reduces the error by approximately 4 orders of magnitude compared to other methods. Apart from ordinary differential equations, our DERLPSO also show great promise for estimating unknown parameters of partial differential equations. The DERLPSO method proposed in this paper has high accuracy, is independent of initial parameter values, and possesses strong versatility and stability. This work provides new insights into unknown parameter estimation for differential equations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google