Normalizing flows as approximations of optimal transport maps via linear-control neural ODEs

要約

「フローの正規化」という用語は、ディープ ニューラル ネットワークを使用して確率測定間の可逆トランスポート マップを構築するタスクに関連しています。
この論文では、絶対連続測定 $\mu,\nu\in\mathcal{P}(\mathbb{R}^n)$ 間の $W_2$-最適輸送マップ $T$ を回復する問題を次のように考察します。
線形制御ニューラル ODE のフロー。制御は時間変数のみに依存し、有限次元空間内の値を受け取ります。
まず、$\mu,\nu$ と制御されたベクトル場に関する適切な仮定の下で、システムによって生成されるフローの $C^0_c$-closure に最適な輸送マップが含まれることを示します。
元の測定値 $\mu,\nu$ の離散近似 $\mu_N,\nu_N$ が利用できると仮定すると、離散最適結合 $\gamma_N$ を使用して最適制御問題を定義します。
$\Gamma$-convergence 引数を使用して、その解が最適なトランスポート マップ $T$ を近似するフローに対応することを証明します。
最後に、ポントリャギンの最大原理を利用して、最適制御問題を解決するための反復数値スキームを提案し、その結果、近似最適トランスポート マップを実際に計算するためのアルゴリズムが得られます。

要約(オリジナル)

The term ‘Normalizing Flows’ is related to the task of constructing invertible transport maps between probability measures by means of deep neural networks. In this paper, we consider the problem of recovering the $W_2$-optimal transport map $T$ between absolutely continuous measures $\mu,\nu\in\mathcal{P}(\mathbb{R}^n)$ as the flow of a linear-control neural ODE, where the control depends only on the time variable and takes values in a finite-dimensional space. We first show that, under suitable assumptions on $\mu,\nu$ and on the controlled vector fields, the optimal transport map is contained in the $C^0_c$-closure of the flows generated by the system. Assuming that discrete approximations $\mu_N,\nu_N$ of the original measures $\mu,\nu$ are available, we use a discrete optimal coupling $\gamma_N$ to define an optimal control problem. With a $\Gamma$-convergence argument, we prove that its solutions correspond to flows that approximate the optimal transport map $T$. Finally, taking advantage of the Pontryagin Maximum Principle, we propose an iterative numerical scheme for the resolution of the optimal control problem, resulting in an algorithm for the practical computation of the approximated optimal transport map.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google