Turning Normalizing Flows into Monge Maps with Geodesic Gaussian Preserving Flows

要約

タイトル：「Turning Normalizing Flows into Monge Maps with Geodesic Gaussian Preserving Flows」

要約：
– Normalizing Flows（NF）は、複雑な密度をモデル化するために表現力と処理可能性のトレードオフを行える強力な尤度ベースの生成モデルです。
– 現在は、最適輸送（OT）を活用し、ソースとターゲット分布の間の努力が最小限のモデルである「Monge maps」を探す研究が確立されています。
– この論文では、Brenierの偏角分解定理に基づいた方法を紹介し、任意にトレーニングされたNFを、最終的な密度を変更することなく、よりOT効率的なバージョンに変換する方法を提案しています。
– 私たちは、ソース（ガウス）分布の並び替えを学習し、ソースと最終的な密度の間のOTコストを最小限に抑える方法でそれを行います。
– さらに、Euler方程式により、推定されたMonge mapに導くパスを体積保存微分同相写像の空間上の測地線に制限することで、スムーズなフローと低いOTコストを持つ提案された方法が、既存のいくつかのモデルにおいてモデル性能に影響を与えずに適用できることが示されました。

要約(オリジナル)

Normalizing Flows (NF) are powerful likelihood-based generative models that are able to trade off between expressivity and tractability to model complex densities. A now well established research avenue leverages optimal transport (OT) and looks for Monge maps, i.e. models with minimal effort between the source and target distributions. This paper introduces a method based on Brenier’s polar factorization theorem to transform any trained NF into a more OT-efficient version without changing the final density. We do so by learning a rearrangement of the source (Gaussian) distribution that minimizes the OT cost between the source and the final density. We further constrain the path leading to the estimated Monge map to lie on a geodesic in the space of volume-preserving diffeomorphisms thanks to Euler’s equations. The proposed method leads to smooth flows with reduced OT cost for several existing models without affecting the model performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI