Metric Flow Matching for Smooth Interpolations on the Data Manifold

要約

マッチング目標は最新の生成モデルの成功を支えており、ソース分布をターゲット分布に変換する条件付きパスの構築に依存しています。
条件付きパスは基本的な構成要素であるにもかかわらず、主にユークリッド幾何学の仮定に基づいて設計されており、直線補間になります。
ただし、これは、直線パスがデータ多様体の外側にある可能性がある軌道推論などのタスクでは特に制限される可能性があり、そのため、観察された限界を引き起こす基礎となるダイナミクスを捉えることができません。
この論文では、条件付きフロー マッチングのためのシミュレーション不要の新しいフレームワークであるメトリック フロー マッチング (MFM) を提案します。このフレームワークでは、内挿は、データに起因するリーマン計量の運動エネルギーを最小化することによって学習された近似測地線になります。
このようにして、生成モデルはデータ多様体のベクトル場と一致し、不確実性が低くなり、より意味のある内挿に対応します。
タスクとは独立してMFMをインスタンス化するための一般的なメトリクスを規定し、LiDARナビゲーション、ペアになっていない画像変換、セルラーダイナミクスのモデリングなどの一連の困難な問題でテストします。
MFM がユークリッド ベースラインを上回っており、特に単一セル軌道予測で SOTA を達成していることが観察されています。

要約(オリジナル)

Matching objectives underpin the success of modern generative models and rely on constructing conditional paths that transform a source distribution into a target distribution. Despite being a fundamental building block, conditional paths have been designed principally under the assumption of Euclidean geometry, resulting in straight interpolations. However, this can be particularly restrictive for tasks such as trajectory inference, where straight paths might lie outside the data manifold, thus failing to capture the underlying dynamics giving rise to the observed marginals. In this paper, we propose Metric Flow Matching (MFM), a novel simulation-free framework for conditional flow matching where interpolants are approximate geodesics learned by minimizing the kinetic energy of a data-induced Riemannian metric. This way, the generative model matches vector fields on the data manifold, which corresponds to lower uncertainty and more meaningful interpolations. We prescribe general metrics to instantiate MFM, independent of the task, and test it on a suite of challenging problems including LiDAR navigation, unpaired image translation, and modeling cellular dynamics. We observe that MFM outperforms the Euclidean baselines, particularly achieving SOTA on single-cell trajectory prediction.

arxiv情報

著者 Kacper Kapusniak,Peter Potaptchik,Teodora Reu,Leo Zhang,Alexander Tong,Michael Bronstein,Avishek Joey Bose,Francesco Di Giovanni
発行日 2024-05-23 16:48:06+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク