Fast sampling from constrained spaces using the Metropolis-adjusted Mirror Langevin algorithm

要約

我々は、コンパクトな凸集合をサポートする分布からの近似サンプリングのために、メトロポリス調整ミラー ランジュバン アルゴリズムと呼ばれる新しい方法を提案します。
このアルゴリズムは、ミラー ランジュバン ダイナミクスの基本的な離散化であるミラー ランジュバン アルゴリズム (Zhang et al., 2020) の 1 つのステップによって誘導されるマルコフ連鎖に受け入れ拒否フィルターを追加します。
このフィルターが含まれているため、私たちの方法はターゲットに対して偏りがありませんが、ミラー ランジュバン アルゴリズムを含むミラー ランジュバン ダイナミクスの既知の離散化には漸近的なバイアスがあります。
このアルゴリズムでは、自己一致ミラー関数に関して比較的滑らかで、凸状で、リプシッツ連続である可能性がある制約付き分布に混合するために必要な反復回数の上限も与えます。
Metropolis-Hastings フィルターを含めることによって引き起こされるマルコフ連鎖の可逆性の結果として、近似的制約付きサンプリングの誤差許容度に対する指数関数的に優れた依存性が得られます。
また、理論的発見を裏付ける数値実験も紹介します。

要約(オリジナル)

We propose a new method called the Metropolis-adjusted Mirror Langevin algorithm for approximate sampling from distributions whose support is a compact and convex set. This algorithm adds an accept-reject filter to the Markov chain induced by a single step of the Mirror Langevin algorithm (Zhang et al., 2020), which is a basic discretisation of the Mirror Langevin dynamics. Due to the inclusion of this filter, our method is unbiased relative to the target, while known discretisations of the Mirror Langevin dynamics including the Mirror Langevin algorithm have an asymptotic bias. For this algorithm, we also give upper bounds for the number of iterations taken to mix to a constrained distribution whose potential is relatively smooth, convex, and Lipschitz continuous with respect to a self-concordant mirror function. As a consequence of the reversibility of the Markov chain induced by the inclusion of the Metropolis-Hastings filter, we obtain an exponentially better dependence on the error tolerance for approximate constrained sampling. We also present numerical experiments that corroborate our theoretical findings.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google