Stochastic interpolants with data-dependent couplings

要約

流れや拡散などの測定値の動的輸送にインスピレーションを得た生成モデルは、2 つの確率密度間の連続時間マップを構築します。
従来、これらのうちの 1 つはサンプルを通じてのみアクセス可能なターゲット密度であり、もう 1 つはデータに依存しない単純なベース密度として取得されます。
この研究では、確率的補間のフレームワークを使用して、ベース密度とターゲット密度を \textit{結合}する方法を形式化します。これにより、ベースからのサンプルは、ターゲットからのサンプルが与えられた場合とは異なる方法で条件付きで計算されます(ただし、
除外)クラスラベルまたは連続埋め込みに関する情報を組み込むことはできません。
これにより、条件付き生成モデルとして機能する動的トランスポート マップを構築できるようになります。
これらの輸送マップは、標準の独立設定に類似した単純な二乗損失回帰問題を解くことで学習できることを示します。
超解像度とインペイントの実験を通じて、実際に依存カップリングを構築することの有用性を実証します。

要約(オリジナル)

Generative models inspired by dynamical transport of measure — such as flows and diffusions — construct a continuous-time map between two probability densities. Conventionally, one of these is the target density, only accessible through samples, while the other is taken as a simple base density that is data-agnostic. In this work, using the framework of stochastic interpolants, we formalize how to \textit{couple} the base and the target densities, whereby samples from the base are computed conditionally given samples from the target in a way that is different from (but does preclude) incorporating information about class labels or continuous embeddings. This enables us to construct dynamical transport maps that serve as conditional generative models. We show that these transport maps can be learned by solving a simple square loss regression problem analogous to the standard independent setting. We demonstrate the usefulness of constructing dependent couplings in practice through experiments in super-resolution and in-painting.

arxiv情報

著者 Michael S. Albergo,Mark Goldstein,Nicholas M. Boffi,Rajesh Ranganath,Eric Vanden-Eijnden
発行日 2023-12-15 18:44:46+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク