Online Probabilistic Model Identification using Adaptive Recursive MCMC

要約

ベイジアン パラダイムは、不確実なパラメータにわたる確率分布全体を推定するための正式なフレームワークを提供しますが、そのオンライン実装は、計算コストが高いため困難になる可能性があります。
適応再帰マルコフ連鎖モンテカルロ (ARMCMC) 法を提案します。これは、モデル パラメーターの確率密度関数全体を計算しながら、従来のオンライン技術の欠点を解消します。
ガウス ノイズの制限、パラメータ (LIP) システムの線形のみへの適用、持続的励起 (PE) のニーズなどは、これらの欠点の一部です。
ARMCMC では、時間忘却係数 (TFF) ベースの可変ジャンプ分布が提案されています。
忘却係数は、多くの力学システムにおいて、一定のハイパーパラメータの代わりに TFF を使用して適応的に提示できます。
活用と探索の間のトレードオフを提供することにより、特定のジャンプ分散は、モード間の推論を可能にするハイブリッド/マルチモーダル システムに向けて最適化されています。
これらのトレードオフは、パラメータの進化率に基づいて調整されます。
我々は、ARMCMC が同じ精度と信頼性を達成するために必要なサンプル数が従来の MCMC 手法よりも少ないことを実証します。
我々は、ソフトベンディングアクチュエータのパラメータ推定とハント・クロスリー動的モデル、2つの困難なハイブリッド/マルチモーダルベンチマークを使用してアプローチを実証します。
さらに、私たちの方法を再帰的最小二乗法および粒子フィルターと比較し、私たちの技術の方が点推定の精度が大幅に向上し、対象の値の追跡誤差が減少することを示します。

要約(オリジナル)

Although the Bayesian paradigm offers a formal framework for estimating the entire probability distribution over uncertain parameters, its online implementation can be challenging due to high computational costs. We suggest the Adaptive Recursive Markov Chain Monte Carlo (ARMCMC) method, which eliminates the shortcomings of conventional online techniques while computing the entire probability density function of model parameters. The limitations to Gaussian noise, the application to only linear in the parameters (LIP) systems, and the persistent excitation (PE) needs are some of these drawbacks. In ARMCMC, a temporal forgetting factor (TFF)-based variable jump distribution is proposed. The forgetting factor can be presented adaptively using the TFF in many dynamical systems as an alternative to a constant hyperparameter. By offering a trade-off between exploitation and exploration, the specific jump distribution has been optimised towards hybrid/multi-modal systems that permit inferences among modes. These trade-off are adjusted based on parameter evolution rate. We demonstrate that ARMCMC requires fewer samples than conventional MCMC methods to achieve the same precision and reliability. We demonstrate our approach using parameter estimation in a soft bending actuator and the Hunt-Crossley dynamic model, two challenging hybrid/multi-modal benchmarks. Additionally, we compare our method with recursive least squares and the particle filter, and show that our technique has significantly more accurate point estimates as well as a decrease in tracking error of the value of interest.

arxiv情報

著者 Pedram Agand,Mo Chen,Hamid D. Taghirad
発行日 2023-10-19 19:15:02+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, cs.RO, math.ST, stat.TH パーマリンク