MCMC-Correction of Score-Based Diffusion Models for Model Composition

要約

拡散モデルは、スコアまたはエネルギー関数の観点からパラメータ化できます。
エネルギー パラメーター化には、より優れた理論的特性があり、主に、提案されたサンプルの総エネルギーの変化に基づいて、メトロポリス – ヘイスティングス補正ステップによる拡張サンプリング手順が可能になるという点です。
ただし、パフォーマンスが若干劣るようです。さらに重要なことに、スコアベースの拡散が広く普及しているため、既製の事前トレーニングされたエネルギーベースの拡散の入手可能性が限られています。
この制限は、事前トレーニングされたモデルを組み合わせて新しいディストリビューションからサンプリングすることを目的としたモデル合成の目的を損ないます。
しかし、私たちの提案では、スコアのパラメータ化を維持し、代わりにスコア関数の線積分を通じてエネルギーベースの合格確率を計算することを提案しています。
これにより、既存の拡散モデルを再利用しながら、逆のプロセスをさまざまなマルコフ連鎖モンテカルロ (MCMC) 手法と組み合わせることができます。
2D 実験でこの方法を評価したところ、エネルギーパラメータ化と同等か、おそらくそれよりも優れたパフォーマンスが得られることがわかりました。

要約(オリジナル)

Diffusion models can be parameterised in terms of either a score or an energy function. The energy parameterisation has better theoretical properties, mainly that it enables an extended sampling procedure with a Metropolis–Hastings correction step, based on the change in total energy in the proposed samples. However, it seems to yield slightly worse performance, and more importantly, due to the widespread popularity of score-based diffusion, there are limited availability of off-the-shelf pre-trained energy-based ones. This limitation undermines the purpose of model composition, which aims to combine pre-trained models to sample from new distributions. Our proposal, however, suggests retaining the score parameterization and instead computing the energy-based acceptance probability through line integration of the score function. This allows us to re-use existing diffusion models and still combine the reverse process with various Markov-Chain Monte Carlo (MCMC) methods. We evaluate our method on a 2D experiment and find that it achieve similar or arguably better performance than the energy parameterisation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google