Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods

要約

2 つの分布間の最適な輸送距離の効率的な計算は、さまざまなアプリケーションを強化するアルゴリズム サブルーチンとして機能します。
この論文は、ランタイム $\widetilde{O}( n^2/\varepsilon)$ を使用して $\varepsilon$ の加算精度内で最適なトランスポートを計算する、スケーラブルな一次最適化ベースの手法を開発します。ここで、$n$ は次の次元を示します。
対象となる確率分布。
私たちのアルゴリズムは、すべての一次手法の中で最先端の計算保証を達成するとともに、Sinkhorn や Greenkhorn などの古典的なアルゴリズムと比較して良好な数値パフォーマンスを示します。
私たちのアルゴリズム設計の基礎となるのは 2 つの重要な要素です。(a) 元の問題を確率分布上の双一次ミニマックス問題に変換する。
(b) 収束を加速するために、エントロピー正則化および適応学習率と組み合わせて超勾配のアイデアを利用する。

要約(オリジナル)

Efficient computation of the optimal transport distance between two distributions serves as an algorithm subroutine that empowers various applications. This paper develops a scalable first-order optimization-based method that computes optimal transport to within $\varepsilon$ additive accuracy with runtime $\widetilde{O}( n^2/\varepsilon)$, where $n$ denotes the dimension of the probability distributions of interest. Our algorithm achieves the state-of-the-art computational guarantees among all first-order methods, while exhibiting favorable numerical performance compared to classical algorithms like Sinkhorn and Greenkhorn. Underlying our algorithm designs are two key elements: (a) converting the original problem into a bilinear minimax problem over probability distributions; (b) exploiting the extragradient idea — in conjunction with entropy regularization and adaptive learning rates — to accelerate convergence.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google