From Denoising Diffusions to Denoising Markov Models

要約

ノイズ除去拡散は、顕著な経験的性能を示す最先端の生成モデルである。このモデルは、データ分布をガウス分布に拡散させ、このノイズ化プロセスを逆転させて合成データポイントを得ることを学習することで機能する。ノイズ除去拡散は、スコアマッチングを用いたノイズ除去されたデータ密度の対数導関数の近似に依存する。このようなモデルは、事前分布と尤度からしかサンプリングできない場合に、近似的な事後シミュレーションを行うためにも用いることができる。我々は、このアプローチを広いクラスの空間に一般化する統一的なフレームワークを提案し、スコアマッチングの独自の拡張をもたらす。得られたモデルについて、様々なアプリケーションで説明する。

要約(オリジナル)

Denoising diffusions are state-of-the-art generative models exhibiting remarkable empirical performance. They work by diffusing the data distribution into a Gaussian distribution and then learning to reverse this noising process to obtain synthetic datapoints. The denoising diffusion relies on approximations of the logarithmic derivatives of the noised data densities using score matching. Such models can also be used to perform approximate posterior simulation when one can only sample from the prior and likelihood. We propose a unifying framework generalising this approach to a wide class of spaces and leading to an original extension of score matching. We illustrate the resulting models on various applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL