Markovian Flow Matching: Accelerating MCMC with Continuous Normalizing Flows

要約

連続正規化フロー (CNF) は、ニューラル ネットワークを使用してパスを生成するベクトル場をモデル化することで、基準分布とターゲット分布の間の確率パスを学習します。
最近、リップマンら。
(2022) は、フロー マッチング (FM) と呼ばれる、生成モデリングで CNF をトレーニングするためのシンプルで安価な方法を導入しました。
このペーパーでは、FM 目的の評価にマルコフ サンプリング手法を組み込み、学習された CNF を使用してモンテカルロ サンプリングを改善することにより、この手法を確率的推論に再利用します。
具体的には、適応マルコフ連鎖モンテカルロ (MCMC) アルゴリズムを提案します。このアルゴリズムは、ローカルなマルコフ遷移カーネルと、CNF を使用して定義された非ローカルなフロー情報型遷移カーネルを組み合わせます。
この CNF は、FM 目的の確率パスを指定するために使用されるマルコフ連鎖からのサンプルを使用してオンザフライで適応されます。
私たちの方法には、ターゲット分布内の複数のモードの発見を可能にする適応型テンパリングメカニズムも含まれています。
穏やかな仮定の下で、FM 目標の局所最適値への方法の収束を確立します。
次に、いくつかの合成例と実際の例でアプローチのベンチマークを行い、他の最先端の方法と同様のパフォーマンスを達成しますが、多くの場合、計算コストは​​大幅に低くなります。

要約(オリジナル)

Continuous normalizing flows (CNFs) learn the probability path between a reference distribution and a target distribution by modeling the vector field generating said path using neural networks. Recently, Lipman et al. (2022) introduced a simple and inexpensive method for training CNFs in generative modeling, termed flow matching (FM). In this paper, we repurpose this method for probabilistic inference by incorporating Markovian sampling methods in evaluating the FM objective, and using the learned CNF to improve Monte Carlo sampling. Specifically, we propose an adaptive Markov chain Monte Carlo (MCMC) algorithm, which combines a local Markov transition kernel with a non-local, flow-informed transition kernel, defined using a CNF. This CNF is adapted on-the-fly using samples from the Markov chain, which are used to specify the probability path for the FM objective. Our method also includes an adaptive tempering mechanism that allows the discovery of multiple modes in the target distribution. Under mild assumptions, we establish convergence of our method to a local optimum of the FM objective. We then benchmark our approach on several synthetic and real-world examples, achieving similar performance to other state-of-the-art methods, but often at a significantly lower computational cost.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google