Particle Guidance: non-I.I.D. Diverse Sampling with Diffusion Models

要約

生成モデルの広範な成功を考慮して、サンプリング時間の高速化についてかなりの量の研究が行われてきました。
ただし、生成モデルは多くの場合、多様なセットを取得するために複数回サンプリングされ、サンプリング時間に直交するコストが発生します。
私たちは、独立したサンプルという一般的な前提を超えて、多様性とサンプル効率を向上させる方法の問題に取り組みます。
我々は、結合粒子の時間発展ポテンシャルが多様性を強制する、拡散ベースの生成サンプリングの拡張である粒子ガイダンスを提案します。
私たちは、粒子誘導が生成する結合分布、最適な多様性を達成するポテンシャルを学習する方法、および他の分野の手法との関連を理論的に分析します。
経験的に、品質に影響を与えることなく多様性を高めることができる条件付き画像生成の設定と、最先端の中央値誤差を平均 13% 削減する分子配座異性体生成の両方の設定でフレームワークをテストしました。

要約(オリジナル)

In light of the widespread success of generative models, a significant amount of research has gone into speeding up their sampling time. However, generative models are often sampled multiple times to obtain a diverse set incurring a cost that is orthogonal to sampling time. We tackle the question of how to improve diversity and sample efficiency by moving beyond the common assumption of independent samples. We propose particle guidance, an extension of diffusion-based generative sampling where a joint-particle time-evolving potential enforces diversity. We analyze theoretically the joint distribution that particle guidance generates, how to learn a potential that achieves optimal diversity, and the connections with methods in other disciplines. Empirically, we test the framework both in the setting of conditional image generation, where we are able to increase diversity without affecting quality, and molecular conformer generation, where we reduce the state-of-the-art median error by 13% on average.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google