PyVBMC: Efficient Bayesian inference in Python

要約

PyVBMC は、ブラック ボックス計算モデルの事後およびモデル推論のための変分ベイズ モンテカルロ (VBMC) アルゴリズムの Python 実装です (Acerbi、2018、2020)。
VBMC は、モデル評価が軽度から非常に高価 (たとえば、1 秒以上) および/またはノイズが多い場合に、効率的なパラメーター推定とモデル評価のために設計された近似推論方法です。
具体的には、VBMC は以下を計算します。 – モデル パラメーターの柔軟な (非ガウス) 近似事後分布。そこから統計と事後サンプルを簡単に抽出できます。
– モデルの証拠または限界尤度の近似値、ベイジアン モデルの選択に使用されるメトリック。
PyVBMC は、最大約 10 ～ 15 個の連続パラメーターを持つ任意の計算モデルまたは統計モデルに適用できます。ただし、モデルの目標対数尤度またはその近似値を計算する Python 関数をユーザーが提供できるという唯一の要件があります (たとえば、
シミュレーションまたはモンテカルロ法によって得られた尤度の推定)。
PyVBMC は、モデルが評価ごとに約 1 秒以上かかる場合に特に効果的であり、従来の近似推論方法と比較して 1 ～ 2 桁の劇的なスピードアップを実現します。
人工的なテスト問題と計算科学、特に計算科学と認知神経科学からの多数の実際のモデルの両方に関する広範なベンチマークは、VBMC が一般的に (そしてしばしば非常に) サンプル効率の良いベイジアン推論の代替方法よりも優れており、正確な両方に適用できることを示しています。
およびシミュレーターベースのモデル (Acerbi、2018、2019、2020)。
PyVBMC は、アルゴリズムを実行し、その結果を操作および視覚化するための使いやすい Python インターフェイスと共に、この最先端の推論アルゴリズムを Python にもたらします。

要約(オリジナル)

PyVBMC is a Python implementation of the Variational Bayesian Monte Carlo (VBMC) algorithm for posterior and model inference for black-box computational models (Acerbi, 2018, 2020). VBMC is an approximate inference method designed for efficient parameter estimation and model assessment when model evaluations are mildly-to-very expensive (e.g., a second or more) and/or noisy. Specifically, VBMC computes: – a flexible (non-Gaussian) approximate posterior distribution of the model parameters, from which statistics and posterior samples can be easily extracted; – an approximation of the model evidence or marginal likelihood, a metric used for Bayesian model selection. PyVBMC can be applied to any computational or statistical model with up to roughly 10-15 continuous parameters, with the only requirement that the user can provide a Python function that computes the target log likelihood of the model, or an approximation thereof (e.g., an estimate of the likelihood obtained via simulation or Monte Carlo methods). PyVBMC is particularly effective when the model takes more than about a second per evaluation, with dramatic speed-ups of 1-2 orders of magnitude when compared to traditional approximate inference methods. Extensive benchmarks on both artificial test problems and a large number of real models from the computational sciences, particularly computational and cognitive neuroscience, show that VBMC generally – and often vastly – outperforms alternative methods for sample-efficient Bayesian inference, and is applicable to both exact and simulator-based models (Acerbi, 2018, 2019, 2020). PyVBMC brings this state-of-the-art inference algorithm to Python, along with an easy-to-use Pythonic interface for running the algorithm and manipulating and visualizing its results.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google