Light Unbalanced Optimal Transport

要約

連続エントロピー最適輸送 (EOT) フィールドは近年活発に開発されていますが、古典的な EOT 問題は、外れ値に対する感度や、ソースとターゲットの測度におけるクラスの不均衡など、さまざまな問題を抱えやすいことが明らかになりました。
この事実は、不均衡 EOT (UEOT) 問題を扱うソルバーの開発に影響を与えました。$-$ EOT の一般化により、限界制約を緩和することで前述の問題を軽減できるようになりました。
驚くべきことに、既存のソルバーはヒューリスティック原理に基づいているか、複数のニューラル ネットワークが関与する複雑な最適化目標を重み付けしていることが判明しました。
私たちはこの課題に取り組み、理論的に正当化された、軽量でアンバランスな新しい EOT ソルバーを提案します。
私たちの進歩は、扱いやすい非ミニマックス最適化目標を生み出す UEOT 問題の最適化に関する新しい見解を開発することで構成されています。
私たちは、この分野で最近提案された光パラメータ化と組み合わせることで、私たちの目的が、CPU 上で数分で連続 UEOT 問題を解くことを可能にする、高速でシンプルかつ効果的なソルバーにつながることを示します。
私たちのソルバーが UEOT 解の普遍的な近似を提供し、その一般化限界を取得することを証明します。
ソルバーのパフォーマンスの実例を示します。

要約(オリジナル)

While the continuous Entropic Optimal Transport (EOT) field has been actively developing in recent years, it became evident that the classic EOT problem is prone to different issues like the sensitivity to outliers and imbalance of classes in the source and target measures. This fact inspired the development of solvers that deal with the unbalanced EOT (UEOT) problem $-$ the generalization of EOT allowing for mitigating the mentioned issues by relaxing the marginal constraints. Surprisingly, it turns out that the existing solvers are either based on heuristic principles or heavy-weighted with complex optimization objectives involving several neural networks. We address this challenge and propose a novel theoretically-justified, lightweight, unbalanced EOT solver. Our advancement consists of developing a novel view on the optimization of the UEOT problem yielding tractable and a non-minimax optimization objective. We show that combined with a light parametrization recently proposed in the field our objective leads to a fast, simple, and effective solver which allows solving the continuous UEOT problem in minutes on CPU. We prove that our solver provides a universal approximation of UEOT solutions and obtain its generalization bounds. We give illustrative examples of the solver’s performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google