Uncovering Challenges of Solving the Continuous Gromov-Wasserstein Problem

要約

最近、Gromov-Wasserstein Optimal Transport (GWOT)問題がMLコミュニティで注目されている。この問題では、2つの（おそらく異なる）空間上でサポートされる2つの分布が与えられたとき、それらの間の最も等質な写像を見つけなければならない。GWOTの離散的な変形では、与えられた離散的な点集合間の割り当てを学習することが課題である。より高度な連続的定式化では、未知の連続分布から得られるi.i.d.標本に基づいて、未知の連続分布間のパラメトリック写像を復元することを目的とする。GWOTの背後にある明確な幾何学的直観は、いくつかの実用的なユースケースにとって自然な選択であり、数多くのソルバーが提案されている。その中には、この問題の連続版を解くと主張するものもある。同時に、GWOTは理論的にも数値的にも難しいことで有名である。さらに、既存の連続GWOTソルバーはすべて、依然として離散技法に大きく依存している。既存の手法はどの程度GWOT問題を解き明かしているのか、どのような困難に遭遇しているのか、どのような条件下で成功しているのか、という自然な疑問が生じる。我々のベンチマーク論文は、これらの疑問に答える試みである。我々は特に、最も興味深く、議論の余地のある設定として、連続的なGWOTに焦点を当てる。既存の連続的GWOTアプローチを様々なシナリオでクラッシュテストし、得られた結果を注意深く記録・分析し、問題点を明らかにする。我々の結果は、科学界には信頼できる連続GWOTソルバーがまだ存在しないことを実験的に証明するものであり、さらなる研究努力が必要である。この方向への第一歩として、我々は、離散技法に依存せず、競合の問題の一部を解決する新しい連続GWOT法を提案する。

要約(オリジナル)

Recently, the Gromov-Wasserstein Optimal Transport (GWOT) problem has attracted the special attention of the ML community. In this problem, given two distributions supported on two (possibly different) spaces, one has to find the most isometric map between them. In the discrete variant of GWOT, the task is to learn an assignment between given discrete sets of points. In the more advanced continuous formulation, one aims at recovering a parametric mapping between unknown continuous distributions based on i.i.d. samples derived from them. The clear geometrical intuition behind the GWOT makes it a natural choice for several practical use cases, giving rise to a number of proposed solvers. Some of them claim to solve the continuous version of the problem. At the same time, GWOT is notoriously hard, both theoretically and numerically. Moreover, all existing continuous GWOT solvers still heavily rely on discrete techniques. Natural questions arise: to what extent do existing methods unravel the GWOT problem, what difficulties do they encounter, and under which conditions they are successful? Our benchmark paper is an attempt to answer these questions. We specifically focus on the continuous GWOT as the most interesting and debatable setup. We crash-test existing continuous GWOT approaches on different scenarios, carefully record and analyze the obtained results, and identify issues. Our findings experimentally testify that the scientific community is still missing a reliable continuous GWOT solver, which necessitates further research efforts. As the first step in this direction, we propose a new continuous GWOT method which does not rely on discrete techniques and partially solves some of the problems of the competitors.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL