Unifying and extending Diffusion Models through PDEs for solving Inverse Problems

要約

拡散モデルは、コンピュータビジョンや科学的機械学習(SciML)に応用される強力な生成ツールとして登場し、大規模な確率的逆問題の解決に用いられてきた。従来、これらのモデルは変分推論、ノイズ除去、統計的信号処理、確率微分方程式の原理を用いて導出されてきた。従来とは対照的に、本研究では線形偏微分方程式の考え方を用いて拡散モデルを導出し、このアプローチが、順過程と逆過程の構成的な導出、複数の定式化とサンプリング戦略の統一的な導出、分散保存モデルの新しいクラスの発見など、いくつかの利点を持つことを示す。また、これらのモデルの条件付きバージョンを適用して、正準条件付き密度推定問題や困難な逆問題を解く。これらの問題は、本研究における様々な定式化とサンプリング戦略の性能を系統的に定量化するためのベンチマークを確立するのに役立つ。最後に、単一の拡散モデルを複数の測定オペレータから得られた測定値に適用できるメカニズムを特定し、実装する。本原稿の内容を総合すると、物理学に基づく逆問題の解決への拡散モデルの適用に関する新たな理解と、いくつかの新たな方向性が得られる。

要約(オリジナル)

Diffusion models have emerged as powerful generative tools with applications in computer vision and scientific machine learning (SciML), where they have been used to solve large-scale probabilistic inverse problems. Traditionally, these models have been derived using principles of variational inference, denoising, statistical signal processing, and stochastic differential equations. In contrast to the conventional presentation, in this study we derive diffusion models using ideas from linear partial differential equations and demonstrate that this approach has several benefits that include a constructive derivation of the forward and reverse processes, a unified derivation of multiple formulations and sampling strategies, and the discovery of a new class of variance preserving models. We also apply the conditional version of these models to solve canonical conditional density estimation problems and challenging inverse problems. These problems help establish benchmarks for systematically quantifying the performance of different formulations and sampling strategies in this study and for future studies. Finally, we identify and implement a mechanism through which a single diffusion model can be applied to measurements obtained from multiple measurement operators. Taken together, the contents of this manuscript provide a new understanding of and several new directions in the application of diffusion models to solving physics-based inverse problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL