RNE: a plug-and-play framework for diffusion density estimation and inference-time control

要約

この論文では、パス分布間の密度比の概念に基づいて、拡散推論時間密度の推定と制御のための柔軟なプラグアンドプレイフレームワークであるRadon-Nikodym推定器（RNE）を紹介します。
RNEは、基本的な変動推論と確率論的原理に起因する、単一の直感的な視点の下で、さまざまな既存の密度推定および推論時間制御方法を接続および統合します。
実験は、RNEが拡散密度の推定で強力な結果をもたらし、有望な推論時間スケーリングパフォーマンスを備えた、アニーリング、拡散モデルの構成、報酬傾斜などの推論時間制御タスクに幅広い適用可能性を提供することを示しています。

要約(オリジナル)

In this paper, we introduce the Radon-Nikodym Estimator (RNE), a flexible, plug-and-play framework for diffusion inference-time density estimation and control, based on the concept of the density ratio between path distributions. RNE connects and unifies a variety of existing density estimation and inference-time control methods under a single and intuitive perspective, stemming from basic variational inference and probabilistic principles therefore offering both theoretical clarity and practical versatility. Experiments demonstrate that RNE delivers strong results in diffusion density estimation, and offers broad applicability to inference-time control tasks — such as annealing, diffusion model composition, and reward-tilting — with promising inference-time scaling performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google