Sequential Neural Score Estimation: Likelihood-Free Inference with Conditional Score Based Diffusion Models

要約

シミュレータベースのモデルにおけるベイズ推論のためのスコアベースの手法である、逐次ニューラル事後スコア推定(SNPSE)を紹介する。本手法は、生成モデリングにおけるスコアベースの手法の目覚ましい成功に触発され、条件付きスコアベースの拡散モデルを活用して、関心のある事後分布からサンプルを生成する。モデルは、事後分布のスコアを直接推定する目的関数を用いて学習される。このモデルを逐次的な学習手順に組み込むことで、対象となる観測における事後分布の現在の近似を用いたシミュレーションを導き、シミュレーションコストを削減する。また、いくつかの代替的な逐次的アプローチを紹介し、それらの相対的な利点について議論する。そして、逐次的なニューラルネットワーク事後推定（Sequential Neural Posterior Estimation: SNPE）のような既存の最新手法に匹敵する、あるいはそれ以上の性能を示す、我々の手法と、逐次的でない、償却された変形手法を、いくつかの数値例で検証する。

要約(オリジナル)

We introduce Sequential Neural Posterior Score Estimation (SNPSE), a score-based method for Bayesian inference in simulator-based models. Our method, inspired by the remarkable success of score-based methods in generative modelling, leverages conditional score-based diffusion models to generate samples from the posterior distribution of interest. The model is trained using an objective function which directly estimates the score of the posterior. We embed the model into a sequential training procedure, which guides simulations using the current approximation of the posterior at the observation of interest, thereby reducing the simulation cost. We also introduce several alternative sequential approaches, and discuss their relative merits. We then validate our method, as well as its amortised, non-sequential, variant on several numerical examples, demonstrating comparable or superior performance to existing state-of-the-art methods such as Sequential Neural Posterior Estimation (SNPE).

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL