To smooth a cloud or to pin it down: Guarantees and Insights on Score Matching in Denoising Diffusion Models

要約

ノイズ除去拡散モデルは生成モデルの一種であり、最近多くのドメインにわたって最先端の結果を達成しています。
拡散プロセスを使用してデータに段階的なノイズが追加され、データ分布がガウス分布に変換されます。
次に、ガウス サンプルによって初期化されたこの拡散の時間反転の近似をシミュレートすることによって、生成モデルからのサンプルが取得されます。
最近の研究では、サンプリングおよび推論タスクに拡散モデルを適応させることが検討されています。
この論文では、フォルマー ドリフトに似た確率的制御への既知の接続を利用して、フォルマー ドリフトの確立されたニューラル ネットワーク近似結果をノイズ除去拡散モデルとサンプラーに拡張します。

要約(オリジナル)

Denoising diffusion models are a class of generative models which have recently achieved state-of-the-art results across many domains. Gradual noise is added to the data using a diffusion process, which transforms the data distribution into a Gaussian. Samples from the generative model are then obtained by simulating an approximation of the time reversal of this diffusion initialized by Gaussian samples. Recent research has explored adapting diffusion models for sampling and inference tasks. In this paper, we leverage known connections to stochastic control akin to the F\’ollmer drift to extend established neural network approximation results for the F\’ollmer drift to denoising diffusion models and samplers.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google