Flow Matching: Markov Kernels, Stochastic Processes and Transport Plans

要約

生成ニューラル・モデルの中でも、フロー・マッチング技術は、その単純な適用可能性と優れたスケーリング特性で際立っている。ここでは、単純な潜在分布と目標分布を結ぶ曲線の速度場が学習される。そして、対応する常微分方程式を用いて、潜在分布からのサンプルから始めて、目標分布からサンプリングすることができる。本論文では、Wasserstein幾何における絶対連続曲線の速度場を学習するための様々な手法を数学的観点からレビューする。我々は、i)潜在分布と目標分布間の輸送計画（カップリング）、ii)マルコフ・カーネル、iii)確率過程によって、どのように速度場を特徴付け、学習できるかを示す。この主目的の他に、条件付きワッサーシュタイン距離の定義が中心的な役割を果たすベイズ逆問題を解くために、フローマッチングがどのように利用できるかを示す。最後に、他の方向からの曲線の速度場の学習にアプローチする、連続正規化フローとスコアマッチング技術について簡単に述べる。

要約(オリジナル)

Among generative neural models, flow matching techniques stand out for their simple applicability and good scaling properties. Here, velocity fields of curves connecting a simple latent and a target distribution are learned. Then the corresponding ordinary differential equation can be used to sample from a target distribution, starting in samples from the latent one. This paper reviews from a mathematical point of view different techniques to learn the velocity fields of absolutely continuous curves in the Wasserstein geometry. We show how the velocity fields can be characterized and learned via i) transport plans (couplings) between latent and target distributions, ii) Markov kernels and iii) stochastic processes, where the latter two include the coupling approach, but are in general broader. Besides this main goal, we show how flow matching can be used for solving Bayesian inverse problems, where the definition of conditional Wasserstein distances plays a central role. Finally, we briefly address continuous normalizing flows and score matching techniques, which approach the learning of velocity fields of curves from other directions.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL