Iso-Diffusion: Improving Diffusion Probabilistic Models Using the Isotropy of the Additive Gaussian Noise

要約

ノイズ除去拡散確率モデル (DDPM) は、生成 AI の分野で多くの成果を上げてきました。
高性能にもかかわらず、特に等方性などの構造的完全性を課す統計的特性を利用することによるサンプル忠実度の点で、改善の余地があります。
加算ノイズと予測ノイズの間の平均二乗誤差を最小限に抑えるだけでは、予測ノイズが等方性であるという制約は課せられません。
したがって、DDPM の忠実度を高めるために、目的関数の制約として加算ノイズの等方性を利用することにしました。
私たちのアプローチはシンプルで、あらゆる DDPM バリアントに適用できます。
4 つの合成 2D データセットと無条件画像生成で行われた実験を提示することで、私たちのアプローチを検証します。
結果が示すように、この制約を組み込むと、2D データセットおよび無条件画像生成の忠実度メトリクス、精度および密度が向上します。

要約(オリジナル)

Denoising Diffusion Probabilistic Models (DDPMs) have accomplished much in the realm of generative AI. Despite their high performance, there is room for improvement, especially in terms of sample fidelity by utilizing statistical properties that impose structural integrity, such as isotropy. Minimizing the mean squared error between the additive and predicted noise alone does not impose constraints on the predicted noise to be isotropic. Thus, we were motivated to utilize the isotropy of the additive noise as a constraint on the objective function to enhance the fidelity of DDPMs. Our approach is simple and can be applied to any DDPM variant. We validate our approach by presenting experiments conducted on four synthetic 2D datasets as well as on unconditional image generation. As demonstrated by the results, the incorporation of this constraint improves the fidelity metrics, Precision and Density for the 2D datasets as well as for the unconditional image generation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google