Neural Gromov-Wasserstein Optimal Transport

要約

内積コストを伴う Gromov-Wasserstein (GW) 最適輸送 (OT) 問題を解決するためのスケーラブルなニューラル メソッドを提示します。
この問題では、2 つの分布が (おそらく異なる) 空間でサポートされている場合、それらの間で最も等角のマップを見つける必要があります。
提案されたアプローチでは、ニューラル ネットワークと確率的ミニバッチ最適化を使用します。これにより、既存の GW メソッドの制限 (サンプル数によるスケーラビリティの低さやサンプル外推定の欠如など) を克服できます。
提案された方法の有効性を実証するために、合成データで実験を行い、単語埋め込みの教師なしアラインメントの一般的なタスクへの方法の実際の適用性を調査します。

要約(オリジナル)

We present a scalable neural method to solve the Gromov-Wasserstein (GW) Optimal Transport (OT) problem with the inner product cost. In this problem, given two distributions supported on (possibly different) spaces, one has to find the most isometric map between them. Our proposed approach uses neural networks and stochastic mini-batch optimization which allows to overcome the limitations of existing GW methods such as their poor scalability with the number of samples and the lack of out-of-sample estimation. To demonstrate the effectiveness of our proposed method, we conduct experiments on the synthetic data and explore the practical applicability of our method to the popular task of the unsupervised alignment of word embeddings.

arxiv情報

著者 Maksim Nekrashevich,Alexander Korotin,Evgeny Burnaev
発行日 2023-03-10 15:21:12+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG パーマリンク