Differentiating Metropolis-Hastings to Optimize Intractable Densities

要約

確率モデルで推論を実行する場合、ターゲット密度が手に負えなくなることが多く、モンテカルロ サンプラーの使用が必要になります。
私たちは、Metropolis-Hastings サンプラーの不偏微分のための方法論を開発し、確率的推論による微分を可能にします。
確率微分の最近の進歩とマルコフ連鎖結合スキームを融合することにより、手順を不偏、低分散、自動化することができます。
これにより、勾配ベースの最適化を、扱いにくいターゲット密度に対する期待として表現された目標に適用できるようになります。
混合ガウス モデルで曖昧な観測値を見つけ、イジング モデルで比熱を最大化することによって、私たちのアプローチを実証します。

要約(オリジナル)

When performing inference on probabilistic models, target densities often become intractable, necessitating the use of Monte Carlo samplers. We develop a methodology for unbiased differentiation of the Metropolis-Hastings sampler, allowing us to differentiate through probabilistic inference. By fusing recent advances in stochastic differentiation with Markov chain coupling schemes, the procedure can be made unbiased, low-variance, and automatic. This allows us to apply gradient-based optimization to objectives expressed as expectations over intractable target densities. We demonstrate our approach by finding an ambiguous observation in a Gaussian mixture model and by maximizing the specific heat in an Ising model.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google