A Unified Framework for Diffusion Bridge Problems: Flow Matching and Schrödinger Matching into One

要約

ブリッジの問題は、与えられた分布を2つ橋渡しするSDE（または時にはオード）を見つけることです。
ブリッジ問題のアプリケーション領域は非常に大きく、その中で最近の生成モデリング（条件付きまたは無条件の画像生成など）が最も人気があります。
また、1世紀にわたって広く知られている問題である有名なSchr \ ‘{o}ディンガーブリッジの問題は、橋の問題の特別な例です。
ディープラーニング時代のブリッジ問題に取り組むための2つの最も一般的なアルゴリズムは次のとおりです。（条件付き）フローマッチングと反復フィッティングアルゴリズムは、前者がODEソリューションに限定され、後者は特にSCHR \ ‘{O}ディンガーブリッジの問題です。
この記事の主な貢献は、2つの折り目です。i）これらのアルゴリズムの簡潔なレビューを、ある程度技術的な詳細を提供します。
ii）これらの一見無関係なアルゴリズム（およびそのバリエーション）を1つに包み込む新しい統一された視点とフレームワークを提案します。
特に、統一されたフレームワークは、フローマッチング（FM）アルゴリズム、（ミニバッチ）最適なトランスポートFMアルゴリズム、（ミニバッチ）schr \ ‘{o}ディンガーブリッジFMアルゴリズム、およびディンガーブリッジマッチング（dsbm）アルゴリズムとしてのディンガーブリッジのディンガーブリッジをインスタンス化できることを示しています。
この統一されたフレームワークは、より一般的かつ柔軟な視点で橋の問題を見るのに役立つと考えており、その結果、研究者と実践者がその分野で新しい橋アルゴリズムを開発するのに役立つと考えています。

要約(オリジナル)

The bridge problem is to find an SDE (or sometimes an ODE) that bridges two given distributions. The application areas of the bridge problem are enormous, among which the recent generative modeling (e.g., conditional or unconditional image generation) is the most popular. Also the famous Schr\'{o}dinger bridge problem, a widely known problem for a century, is a special instance of the bridge problem. Two most popular algorithms to tackle the bridge problems in the deep learning era are: (conditional) flow matching and iterative fitting algorithms, where the former confined to ODE solutions, and the latter specifically for the Schr\'{o}dinger bridge problem. The main contribution of this article is in two folds: i) We provide concise reviews of these algorithms with technical details to some extent; ii) We propose a novel unified perspective and framework that subsumes these seemingly unrelated algorithms (and their variants) into one. In particular, we show that our unified framework can instantiate the Flow Matching (FM) algorithm, the (mini-batch) optimal transport FM algorithm, the (mini-batch) Schr\'{o}dinger bridge FM algorithm, and the deep Schr\'{o}dinger bridge matching (DSBM) algorithm as its special cases. We believe that this unified framework will be useful for viewing the bridge problems in a more general and flexible perspective, and in turn can help researchers and practitioners to develop new bridge algorithms in their fields.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google