Gromov-Wasserstein-like Distances in the Gaussian Mixture Models Space

要約

グロモフ-ワッサーシュタイン (GW) 距離は、異なる計量空間にわたる分布を比較するために機械学習で頻繁に使用されます。
その有用性にもかかわらず、特に大規模な問題の場合、依然として計算量が多くなります。
最近、混合ガウス モデル (GMM) 用に特別に調整された、MW2 (混合ワッサーシュタイン) として知られる新しいワッサーシュタイン距離が数人の著者によって導入されました。
データがクラスタリングを示すシナリオでは、このアプローチは小規模な離散最適トランスポート問題に単純化します。この問題の複雑さは GMM 内のガウス成分の数のみに依存します。
この論文は、不変特性を MW2 に組み込むことを目的としています。
これは、ユークリッド空間でアイソメトリ不変となるように設計された新しいグロモフ型距離を導入することによって行われ、異なる次元空間にわたる GMM の比較に適用できます。
私たちの最初の貢献は、混合グロモフ ワッサーシュタイン距離 (MGW2) です。これは、MW2 の「グロモフ化」バージョンとみなすことができます。
この新しい距離は簡単な離散定式化を持ち、実際のアプリケーションで GMM 間の距離を推定するのに非常に効率的です。
GMM 間の転送計画の導出を容易にするために、2 番目の距離、Embedded Wasserstein 距離 (EW2) を提示します。
この距離は、グロモフ-ヴァッサーシュタインに代わる最近のいくつかの選択肢と密接に関連していることが判明しました。
EW2 を適用して GMM 間の距離と最適な輸送計画を導き出すことができることを示します。
我々は、形状マッチングやハイパースペクトル画像の色転写など、中規模から大規模な問題に対するこれらの新しく提案された距離の効率を実証します。

要約(オリジナル)

The Gromov-Wasserstein (GW) distance is frequently used in machine learning to compare distributions across distinct metric spaces. Despite its utility, it remains computationally intensive, especially for large-scale problems. Recently, a novel Wasserstein distance specifically tailored for Gaussian mixture models (GMMs) and known as MW2 (mixture Wasserstein) has been introduced by several authors. In scenarios where data exhibit clustering, this approach simplifies to a small-scale discrete optimal transport problem, which complexity depends solely on the number of Gaussian components in the GMMs. This paper aims to incorporate invariance properties into MW2. This is done by introducing new Gromov-type distances, designed to be isometry-invariant in Euclidean spaces and applicable for comparing GMMs across different dimensional spaces. Our first contribution is the Mixture Gromov Wasserstein distance (MGW2), which can be viewed as a ‘Gromovized’ version of MW2. This new distance has a straightforward discrete formulation, making it highly efficient for estimating distances between GMMs in practical applications. To facilitate the derivation of a transport plan between GMMs, we present a second distance, the Embedded Wasserstein distance (EW2). This distance turns out to be closely related to several recent alternatives to Gromov-Wasserstein. We show that EW2 can be adapted to derive a distance as well as optimal transportation plans between GMMs. We demonstrate the efficiency of these newly proposed distances on medium to large-scale problems, including shape matching and hyperspectral image color transfer.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google