AutoStep: Locally adaptive involutive MCMC

要約

一般的なマルコフ連鎖モンテカルロ (MCMC) カーネルの多くは、ステップ サイズ パラメーターを使用した決定論的インボリューション提案を使用して定式化できます。
適切なステップ サイズを選択することは、実際には困難な作業であることがよくあります。
また、複雑なマルチスケール ターゲットの場合、グローバルに適切に機能するステップ サイズの選択肢が 1 つだけ存在しない可能性があります。
この研究では、ターゲット分布のローカル ジオメトリに適合する各反復で適切なステップ サイズを選択する新しいクラスの包括的 MCMC メソッド、AutoStep MCMC を使用してこの問題に対処します。
AutoStep MCMC が $\pi$ 不変であり、ターゲット分布 $\pi$ と包括的提案に関する穏やかな仮定の下で他の望ましい特性を持つことを証明します。
実験結果は、さまざまなステップ サイズ選択の設計選択の影響を検証し、AutoStep MCMC が、さまざまな困難なターゲット分布における単位コストあたりの有効サンプル サイズの点で最先端の手法と競合できることを示しています。

要約(オリジナル)

Many common Markov chain Monte Carlo (MCMC) kernels can be formulated using a deterministic involutive proposal with a step size parameter. Selecting an appropriate step size is often a challenging task in practice; and for complex multiscale targets, there may not be one choice of step size that works well globally. In this work, we address this problem with a novel class of involutive MCMC methods — AutoStep MCMC — that selects an appropriate step size at each iteration adapted to the local geometry of the target distribution. We prove that AutoStep MCMC is $\pi$-invariant and has other desirable properties under mild assumptions on the target distribution $\pi$ and involutive proposal. Empirical results examine the effect of various step size selection design choices, and show that AutoStep MCMC is competitive with state-of-the-art methods in terms of effective sample size per unit cost on a range of challenging target distributions.

arxiv情報

著者 Tiange Liu,Nikola Surjanovic,Miguel Biron-Lattes,Alexandre Bouchard-Côté,Trevor Campbell
発行日 2024-10-24 17:17:11+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.CO, stat.ML パーマリンク