Interpretable ODE-style Generative Diffusion Model via Force Field Construction

要約

かなり長い間、研究者は、生成拡散モデルと数理物理学との間の深いつながりを確立する方法の開発に注力してきました。
以前の努力にもかかわらず、進歩は単一の専門的な方法の追求に限定されていました。
拡散モデルの解釈可能性を向上させ、新しい研究の方向性を探るには、統一された ODE スタイルの生成的拡散モデルを確立することが不可欠です。
このようなモデルは、物理モデルからインスピレーションを得て、明確な幾何学的意味を持つ必要があります。
この論文は、数学的観点から、ODE スタイルの生成拡散モデルを正確に構築するのに適したさまざまな物理モデルを特定することを目的としています。
次に、これらのモデルを統一された方法にまとめます。
また、本手法で同定した理論モデルを用いてケーススタディを行い、新たな拡散モデル手法を開発し、実験を行います。
CIFAR-10 に関する私たちの実験は、私たちのアプローチの有効性を示しています。
Inception スコアと FID スコアの両方で優れたパフォーマンスを発揮する追加モデルとともに、画像生成速度に関して非常に優れた結果を達成する計算フレームワークを構築しました。
これらの結果は、拡散モデルの分野を進める上での我々の方法の重要性を強調しています。

要約(オリジナル)

For a considerable time, researchers have focused on developing a method that establishes a deep connection between the generative diffusion model and mathematical physics. Despite previous efforts, progress has been limited to the pursuit of a single specialized method. In order to advance the interpretability of diffusion models and explore new research directions, it is essential to establish a unified ODE-style generative diffusion model. Such a model should draw inspiration from physical models and possess a clear geometric meaning. This paper aims to identify various physical models that are suitable for constructing ODE-style generative diffusion models accurately from a mathematical perspective. We then summarize these models into a unified method. Additionally, we perform a case study where we use the theoretical model identified by our method to develop a range of new diffusion model methods, and conduct experiments. Our experiments on CIFAR-10 demonstrate the effectiveness of our approach. We have constructed a computational framework that attains highly proficient results with regards to image generation speed, alongside an additional model that demonstrates exceptional performance in both Inception score and FID score. These results underscore the significance of our method in advancing the field of diffusion models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google