Efficient and Accurate Optimal Transport with Mirror Descent and Conjugate Gradients

要約

私たちは、エントロピー最適輸送、ミラー降下、および共役勾配の文献を参考にして、最適輸送のための新しいアルゴリズムを設計します。
私たちのアルゴリズムは、数値安定性の問題に遭遇することなく、任意の精度で最適な輸送コストを計算できます。
このアルゴリズムは GPU に効率的に実装されており、多くの場合、反復回数と実時間の両方の点で、シンクホーン アルゴリズムなどの従来のアルゴリズムよりも早く収束することが経験的に示されています。
我々は、周縁分布のエントロピーに特に注意を払い、エントロピーの高い周縁はより困難な最適輸送問題を引き起こし、我々のアルゴリズムがそれに適していることを示します。
アルゴリズムと問題パラメーターに関して慎重なアブレーション分析を提供し、MNIST データセットに対するベンチマークを示します。
この結果は、私たちのアルゴリズムが医師の最適な輸送ツールキットへの有用な追加となり得ることを示唆しています。
私たちのコードは https://github.com/adaptive-agents-lab/MDOT-PNCG でオープンソース化されています。

要約(オリジナル)

We design a novel algorithm for optimal transport by drawing from the entropic optimal transport, mirror descent and conjugate gradients literatures. Our algorithm is able to compute optimal transport costs with arbitrary accuracy without running into numerical stability issues. The algorithm is implemented efficiently on GPUs and is shown empirically to converge more quickly than traditional algorithms such as Sinkhorn’s Algorithm both in terms of number of iterations and wall-clock time in many cases. We pay particular attention to the entropy of marginal distributions and show that high entropy marginals make for harder optimal transport problems, for which our algorithm is a good fit. We provide a careful ablation analysis with respect to algorithm and problem parameters, and present benchmarking over the MNIST dataset. The results suggest that our algorithm can be a useful addition to the practitioner’s optimal transport toolkit. Our code is open-sourced at https://github.com/adaptive-agents-lab/MDOT-PNCG .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google