Enhancing Diffusion Models Efficiency by Disentangling Total-Variance and Signal-to-Noise Ratio

要約

拡散モデルの長いサンプリング時間は、重要なボトルネックのままであり、拡散時間ステップの数を減らすことで緩和できます。
ただし、ステップが少ないサンプルの品質は、ノイズスケジュール、つまり、ノイズが導入され、各ステップで信号が低下する特定の方法に大きく依存します。
以前の作業は、元の分散と分散抽出スケジュールを改善しましたが、これらのアプローチ$ \ textit {受動的に} $は、それを直接制御することなく、全体の分散を調整します。
この作業では、テレビとSNRを独立して制御できる新しいトータルバリケーション/シグナルからノイズへのレイティオ（TV/SNR）フレームワークを提案します。
私たちのアプローチは、テレビが指数関数的に爆発するさまざまな既存のスケジュールが、同じSNRスケジュールを維持しながら一定のテレビスケジュールを設定することにより、$ \ textit {改良} $になる可能性があることを明らかにしています。
さらに、最適な輸送フローのSNRスケジュールを一致させると、分子構造生成のパフォーマンスが大幅に向上し、安定した分子のステップ生成がほとんど達成されません。
同様の傾向が画像生成で観察され、均一な拡散時間グリッドを備えたアプローチは、高度にカスタマイズされたEDMサンプラーと同等に機能します。

要約(オリジナル)

The long sampling time of diffusion models remains a significant bottleneck, which can be mitigated by reducing the number of diffusion time steps. However, the quality of samples with fewer steps is highly dependent on the noise schedule, i.e., the specific manner in which noise is introduced and the signal is reduced at each step. Although prior work has improved upon the original variance-preserving and variance-exploding schedules, these approaches $\textit{passively}$ adjust the total variance, without direct control over it. In this work, we propose a novel total-variance/signal-to-noise-ratio disentangled (TV/SNR) framework, where TV and SNR can be controlled independently. Our approach reveals that different existing schedules, where the TV explodes exponentially, can be $\textit{improved}$ by setting a constant TV schedule while preserving the same SNR schedule. Furthermore, generalizing the SNR schedule of the optimal transport flow matching significantly improves the performance in molecular structure generation, achieving few step generation of stable molecules. A similar tendency is observed in image generation, where our approach with a uniform diffusion time grid performs comparably to the highly tailored EDM sampler.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google