Practical and Asymptotically Exact Conditional Sampling in Diffusion Models

要約

拡散モデルは、分子設計やテキストから画像への生成など、さまざまな条件付き生成タスクで成功しています。
ただし、これらの成果は主に、タスク固有の条件付きトレーニングまたはエラーが発生しやすいヒューリスティック近似に依存しています。
理想的には、条件付き生成メソッドは、タスク固有のトレーニングを必要とせずに、広範囲の条件付き分布に対する正確なサンプルを提供する必要があります。
この目的を達成するために、ツイスト ディフュージョン サンプラー (TDS) を導入します。
TDS は、拡散モデルの条件付き分布を対象とする逐次モンテカルロ (SMC) アルゴリズムです。
主なアイデアは、計算効率が高い SMC 手法であるツイストを使用して、漸近的な正確さを損なうことなくヒューリスティックな近似を組み込むことです。
私たちは、シミュレーションと MNIST 画像修復タスクおよびクラス条件付き生成タスクで、TDS が計算統計的トレードオフを提供し、多くの粒子でより正確な近似を生成しますが、わずか 2 個の粒子でヒューリスティックよりも経験的に改善されたことを初めて発見しました。
次に、リーマン拡散モデルへの TDS 拡張を使用して、タンパク質設計の中核となるタスクであるモチーフ足場に移ります。
ベンチマーク テスト ケースでは、TDS により柔軟なコンディショニング基準が可能になり、多くの場合、最先端のパフォーマンスを上回ります。

要約(オリジナル)

Diffusion models have been successful on a range of conditional generation tasks including molecular design and text-to-image generation. However, these achievements have primarily depended on task-specific conditional training or error-prone heuristic approximations. Ideally, a conditional generation method should provide exact samples for a broad range of conditional distributions without requiring task-specific training. To this end, we introduce the Twisted Diffusion Sampler, or TDS. TDS is a sequential Monte Carlo (SMC) algorithm that targets the conditional distributions of diffusion models. The main idea is to use twisting, an SMC technique that enjoys good computational efficiency, to incorporate heuristic approximations without compromising asymptotic exactness. We first find in simulation and on MNIST image inpainting and class-conditional generation tasks that TDS provides a computational statistical trade-off, yielding more accurate approximations with many particles but with empirical improvements over heuristics with as few as two particles. We then turn to motif-scaffolding, a core task in protein design, using a TDS extension to Riemannian diffusion models. On benchmark test cases, TDS allows flexible conditioning criteria and often outperforms the state of the art.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google