Go With the Flow: Fast Diffusion for Gaussian Mixture Models

要約

シュディンガー ブリッジ (SB) は、適切なコスト関数を最小限に抑えながら、有限時間内で特定の初期分布を別の最終分布に誘導する拡散プロセスです。
最近、SB を計算するためのさまざまな方法が文献で提案されていますが、これらのアプローチのほとんどは、低次元の問題を解決する場合でも、計算コストのかかるトレーニング スキームを必要とします。
この研究では、あるガウス混合モデル (GMM) から別のガウス混合モデル (GMM) へ動的システムの分布を制御するための、一連の実行可能なポリシーの解析パラメータ化を提案します。
標準的な非凸最適化手法に依存する代わりに、セット内の最適なポリシーを、各混合物の成分数に応じて次元が線形にスケールする低次元線形プログラムの解として近似できます。
さらに、私たちの方法は、従来のニューラルSBアプローチを使用して現在解決できない、制御可能な線形時変システムなどのより一般的なクラスの動的システムに自然に一般化します。
オートエンコーダーの潜在空間における画像間の変換やその他のさまざまな例など、低次元から中程度の次元の問題におけるこのアプローチの可能性を示します。
また、エントロピー最適輸送 (EOT) 問題に対するアプローチのベンチマークを行い、事実上トレーニングを必要とせずに、境界分布が混合モデルである場合、このアプローチが最先端の手法を上回るパフォーマンスを示すことを示します。

要約(オリジナル)

Schr\'{o}dinger Bridges (SB) are diffusion processes that steer, in finite time, a given initial distribution to another final one while minimizing a suitable cost functional. Although various methods for computing SBs have recently been proposed in the literature, most of these approaches require computationally expensive training schemes, even for solving low-dimensional problems. In this work, we propose an analytic parametrization of a set of feasible policies for steering the distribution of a dynamical system from one Gaussian Mixture Model (GMM) to another. Instead of relying on standard non-convex optimization techniques, the optimal policy within the set can be approximated as the solution of a low-dimensional linear program whose dimension scales linearly with the number of components in each mixture. Furthermore, our method generalizes naturally to more general classes of dynamical systems such as controllable Linear Time-Varying systems that cannot currently be solved using traditional neural SB approaches. We showcase the potential of this approach in low-to-moderate dimensional problems such as image-to-image translation in the latent space of an autoencoder, and various other examples. We also benchmark our approach on an Entropic Optimal Transport (EOT) problem and show that it outperforms state-of-the-art methods in cases where the boundary distributions are mixture models while requiring virtually no training.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google