要約
フロー マッチング (FM) は、ノイズ サンプルとデータ サンプルの間で変換するための常微分方程式 (ODE) を介して確率パスを定義するための一般的なフレームワークです。
最近のアプローチでは、通常、反復整流法または最適な輸送ソリューションを通じて、これらの流れの軌道を直線化し、より少ない機能評価で高品質のサンプルを生成しようとしています。
この論文では、速度場における自己無矛盾性を明示的に強制する新しい FM 手法である Consistency Flow Matching (Consistency-FM) を紹介します。
Consistency-FM は、異なる時間から開始して同じ終点に向かう直線フローを直接定義し、その速度値に制約を課します。
さらに、表現力を強化し、サンプリング品質と速度の間のより良いトレードオフを実現するために、Consistency-FM のマルチセグメント トレーニング アプローチを提案します。
予備実験では、当社の Consistency-FM は、より優れた生成品質を達成しながら、一貫性モデルよりも 4.4 倍、整流モデルよりも 1.7 倍高速に収束することで、トレーニング効率を大幅に向上させることが実証されました。
私たちのコードはhttps://github.com/YangLing0818/consistency_flow_matchingから入手できます。
要約(オリジナル)
Flow matching (FM) is a general framework for defining probability paths via Ordinary Differential Equations (ODEs) to transform between noise and data samples. Recent approaches attempt to straighten these flow trajectories to generate high-quality samples with fewer function evaluations, typically through iterative rectification methods or optimal transport solutions. In this paper, we introduce Consistency Flow Matching (Consistency-FM), a novel FM method that explicitly enforces self-consistency in the velocity field. Consistency-FM directly defines straight flows starting from different times to the same endpoint, imposing constraints on their velocity values. Additionally, we propose a multi-segment training approach for Consistency-FM to enhance expressiveness, achieving a better trade-off between sampling quality and speed. Preliminary experiments demonstrate that our Consistency-FM significantly improves training efficiency by converging 4.4x faster than consistency models and 1.7x faster than rectified flow models while achieving better generation quality. Our code is available at: https://github.com/YangLing0818/consistency_flow_matching
arxiv情報
| 著者 | Ling Yang,Zixiang Zhang,Zhilong Zhang,Xingchao Liu,Minkai Xu,Wentao Zhang,Chenlin Meng,Stefano Ermon,Bin Cui |
| 発行日 | 2024-07-02 16:15:37+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google