Plug-and-Play split Gibbs sampler: embedding deep generative priors in Bayesian inference

要約

タイトル：Plug-and-Play Split Gibbs Sampler：ベイジアン推論に深層生成先行事前分布を埋め込む

要約：

– ストキャスティックプラグアンドプレイ（PnP）サンプリングアルゴリズムが紹介されている。
– PnPサンプリングアルゴリズムは、変数の分割を利用して事後分布から効率的にサンプリングする。
– このアルゴリズムは、交互方向乗数法（ADMM）に着想を得たスプリットヒブズサンプリング（SGS）に基づいている。
– Posteriorサンプリングのチャレンジングなタスクを2つのより簡単なサンプリング問題に分割する。
– 最初の問題は尤度関数に依存し、2番目は深層生成モデルによって簡単に実行できるベイジアン・デノイジング問題と解釈されます。
– 提案手法は、状態に基づく最新の拡散型生成モデルを使用して、具体的な目的で実装されています。
– 確率的PnPベースの手法のように、提案手法は事前分布の明示的な選択を必要とせず、事前分布は事前に学習された生成モデルにエンコードされます。
– 最適化手法と異なり、提案手法は通常のベイジアン推定器に信頼区間を追加することができます。
– 一般的に合理的な追加計算コストに対して、提案されたサンプリング戦略の効率を示す一般的に研究された画像処理問題における実験。

要約(オリジナル)

This paper introduces a stochastic plug-and-play (PnP) sampling algorithm that leverages variable splitting to efficiently sample from a posterior distribution. The algorithm based on split Gibbs sampling (SGS) draws inspiration from the alternating direction method of multipliers (ADMM). It divides the challenging task of posterior sampling into two simpler sampling problems. The first problem depends on the likelihood function, while the second is interpreted as a Bayesian denoising problem that can be readily carried out by a deep generative model. Specifically, for an illustrative purpose, the proposed method is implemented in this paper using state-of-the-art diffusion-based generative models. Akin to its deterministic PnP-based counterparts, the proposed method exhibits the great advantage of not requiring an explicit choice of the prior distribution, which is rather encoded into a pre-trained generative model. However, unlike optimization methods (e.g., PnP-ADMM) which generally provide only point estimates, the proposed approach allows conventional Bayesian estimators to be accompanied by confidence intervals at a reasonable additional computational cost. Experiments on commonly studied image processing problems illustrate the efficiency of the proposed sampling strategy. Its performance is compared to recent state-of-the-art optimization and sampling methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI