Efficient and Unbiased Sampling of Boltzmann Distributions via Consistency Models

要約

普及モデルは、ボルツマン発電機を進歩させる有望な可能性を示しています。
ただし、2 つの重大な課題が依然として残っています。(1) モデルの不完全性によるサンプル固有のエラー、および (2) 高品質のサンプルを実現するには数百もの機能評価 (NFE) が必要です。
重要度サンプリングや蒸留などの既存のソリューションはこれらの問題に個別に対処しますが、ほとんどの蒸留モデルには重要度サンプリングに必要な密度情報が欠如しているため、多くの場合互換性がありません。
このペーパーでは、一貫性モデル (CM) と重要度サンプリングを効果的に組み合わせる新しいサンプリング方法を紹介します。
合成エネルギー関数と等変 n 体粒子システムの両方に関するアプローチを評価します。
私たちの方法では、わずか 6 ～ 25 個の NFE を使用して不偏サンプルを生成し、約 100 個の NFE を必要とするノイズ除去拡散確率モデル (DDPM) と同等の有効サンプル サイズ (ESS) を実現します。

要約(オリジナル)

Diffusion models have shown promising potential for advancing Boltzmann Generators. However, two critical challenges persist: (1) inherent errors in samples due to model imperfections, and (2) the requirement of hundreds of functional evaluations (NFEs) to achieve high-quality samples. While existing solutions like importance sampling and distillation address these issues separately, they are often incompatible, as most distillation models lack the necessary density information for importance sampling. This paper introduces a novel sampling method that effectively combines Consistency Models (CMs) with importance sampling. We evaluate our approach on both synthetic energy functions and equivariant n-body particle systems. Our method produces unbiased samples using only 6-25 NFEs while achieving a comparable Effective Sample Size (ESS) to Denoising Diffusion Probabilistic Models (DDPMs) that require approximately 100 NFEs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google