Can independent Metropolis beat crude Monte Carlo?

要約

密度 $\pi$ に関する関数 $F$ の期待値を推定したいとします。
$\pi$ が KL 発散下で別の密度 $q$ に十分近い場合、提案密度 $q$ で $\pi$ からサンプルを取得する独立した Metropolis サンプラー推定器が、以下に基づく分散削減計算戦略で強化されていることを証明します。
制御が変化すると、粗いモンテカルロ推定量よりも小さな漸近分散が達成されます。
制御変数の構築には追加の計算作業は必要ありませんが、$q$ の下で $F$ の期待値が解析的に利用可能であると想定されます。
この結果を、事前尤度の衝突と非共役事前を使用した線形回帰モデルで周辺尤度を計算することによって説明します。
さらに、ターゲットとの KL 発散が減少するように提案密度を適応させる、適応型独立メトロポリス アルゴリズムを提案します。
我々は、ベイズ ロジスティックおよびガウス過程回帰問題におけるその適用可能性を実証し、簡単に検証可能で本質的に最小限の条件の下で漸近的な議論を厳密に正当化します。

要約(オリジナル)

Assume that we would like to estimate the expected value of a function $F$ with respect to a density $\pi$. We prove that if $\pi$ is close enough under KL divergence to another density $q$, an independent Metropolis sampler estimator that obtains samples from $\pi$ with proposal density $q$, enriched with a variance reduction computational strategy based on control variates, achieves smaller asymptotic variance than that of the crude Monte Carlo estimator. The control variates construction requires no extra computational effort but assumes that the expected value of $F$ under $q$ is analytically available. We illustrate this result by calculating the marginal likelihood in a linear regression model with prior-likelihood conflict and a non-conjugate prior. Furthermore, we propose an adaptive independent Metropolis algorithm that adapts the proposal density such that its KL divergence with the target is being reduced. We demonstrate its applicability in a Bayesian logistic and Gaussian process regression problems and we rigorously justify our asymptotic arguments under easily verifiable and essentially minimal conditions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google