Transport, Variational Inference and Diffusions: with Applications to Annealed Flows and Schrödinger Bridges

要約

この論文は、順時間および逆時間の確率微分方程式とギルサノフ変換に焦点を当てて、最適輸送と変分推論の間の関係を探ります。経路空間上の発散を中心としたサンプリングと生成モデリングのための原理的かつ体系的なフレームワークを提示します。
私たちの研究は、標準的な IPF の逐次的性質から逸脱した、新しいスコアベースのアニーリング フロー技術 (統計物理学からの Jarzynski と Crooks の恒等式に関連する) および正規化された反復比例フィッティング (IPF) タイプの目的の開発で最高潮に達します。
一連の生成モデリングの例と二重井戸ベースのレア イベント タスクを通じて、提案された手法の可能性を示します。

要約(オリジナル)

This paper explores the connections between optimal transport and variational inference, with a focus on forward and reverse time stochastic differential equations and Girsanov transformations.We present a principled and systematic framework for sampling and generative modelling centred around divergences on path space. Our work culminates in the development of a novel score-based annealed flow technique (with connections to Jarzynski and Crooks identities from statistical physics) and a regularised iterative proportional fitting (IPF)-type objective, departing from the sequential nature of standard IPF. Through a series of generative modelling examples and a double-well-based rare event task, we showcase the potential of the proposed methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google