Learning representations that are closed-form Monge mapping optimal with application to domain adaptation

要約

最適輸送 (OT) は、最小努力原理に従って確率測定を比較および調整するために使用される強力な幾何学的ツールです。
機械学習 (ML) で広く使用されているにもかかわらず、OT 問題は依然として計算負荷を負っており、同時に一般的な高次元空間でサポートされる測度の次元性の呪いに悩まされています。
この論文では、表現学習を使用してこれらの課題に取り組むことを提案します。
特に、閉じた形式で効率的に計算できる単純なアフィン マッピングを使用して、2 つの入力メジャーのサンプルが埋め込み空間内で位置合わせ可能になるように、埋め込み空間を学習しようとします。
次に、このようなアプローチが、同種および異種 DA 設定の両方で以前に評価された多くの OT ベースラインに基づいた転移学習タスクに適用すると、元の OT 問題を解くのと同等の結果が得られることを示します。
私たちの貢献のコードは \url{https://github.com/Oleffa/LaOT} で入手できます。

要約(オリジナル)

Optimal transport (OT) is a powerful geometric tool used to compare and align probability measures following the least effort principle. Despite its widespread use in machine learning (ML), OT problem still bears its computational burden, while at the same time suffering from the curse of dimensionality for measures supported on general high-dimensional spaces. In this paper, we propose to tackle these challenges using representation learning. In particular, we seek to learn an embedding space such that the samples of the two input measures become alignable in it with a simple affine mapping that can be calculated efficiently in closed-form. We then show that such approach leads to results that are comparable to solving the original OT problem when applied to the transfer learning task on which many OT baselines where previously evaluated in both homogeneous and heterogeneous DA settings. The code for our contribution is available at \url{https://github.com/Oleffa/LaOT}.

arxiv情報

著者 Oliver Struckmeier,Ievgen Redko,Anton Mallasto,Karol Arndt,Markus Heinonen,Ville Kyrki
発行日 2023-08-11 10:49:52+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG パーマリンク