Unlocking Guidance for Discrete State-Space Diffusion and Flow Models

要約

離散状態空間の生成モデルには、特に自然科学の分野で幅広い応用の可能性があります。
連続状態空間では、拡散モデルと流れモデルのガイダンスを使用して、所望の特性を備えたサンプルの制御可能かつ柔軟な生成が実現されています。
ただし、これらのガイダンス アプローチは、離散状態空間モデルにはすぐには適用できません。
したがって、このようなモデルにガイダンスを適用するための一般的かつ原則的な方法を紹介します。
私たちの方法は、離散状態空間での連続時間マルコフ プロセスの活用に依存しており、これにより、目的の誘導分布からのサンプリングのための計算の扱いやすさが解放されます。
私たちは、画像、低分子、DNA 配列、タンパク質配列のガイド付き生成を含むさまざまなアプリケーションにおける、私たちのアプローチである離散ガイダンスの有用性を実証します。

要約(オリジナル)

Generative models on discrete state-spaces have a wide range of potential applications, particularly in the domain of natural sciences. In continuous state-spaces, controllable and flexible generation of samples with desired properties has been realized using guidance on diffusion and flow models. However, these guidance approaches are not readily amenable to discrete state-space models. Consequently, we introduce a general and principled method for applying guidance on such models. Our method depends on leveraging continuous-time Markov processes on discrete state-spaces, which unlocks computational tractability for sampling from a desired guided distribution. We demonstrate the utility of our approach, Discrete Guidance, on a range of applications including guided generation of images, small-molecules, DNA sequences and protein sequences.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google