On Barycenter Computation: Semi-Unbalanced Optimal Transport-based Method on Gaussians

要約

我々は、半不平衡最適輸送(SUOT)ベースの重心と呼ばれる$n$中心のガウス確率尺度間の重心問題の堅牢なバージョンを探索します。重心は固定されたままですが、カルバック・ライブラー発散を使用して他の重心は緩和されます。
私たちは、正確な測地線勾配降下法およびハイブリッド勾配降下法アルゴリズムと呼ばれる、ビュレス・ワッサーシュタイン多様体に関する最適化アルゴリズムを開発します。
正確な測地線勾配降下法は、ビュレス多様体の測地線に沿った重心の目的関数の一次導関数の正確な閉形式の計算に基づいていますが、ハイブリッド勾配降下法は、SUOT 問題を解くときにオプティマイザー コンポーネントを利用します。
リーマン勾配降下法を適用する前に、外れ値の測定値を置き換えます。
両方の方法の理論的な収束保証を確立し、正確な測地線勾配降下法アルゴリズムが次元フリーの収束率を達成することを実証します。
最後に、正常なワッサーシュタイン重心と私たちの重心を比較する実験を行い、アブレーション研究を行います。

要約(オリジナル)

We explore a robust version of the barycenter problem among $n$ centered Gaussian probability measures, termed Semi-Unbalanced Optimal Transport (SUOT)-based Barycenter, wherein the barycenter remains fixed while the others are relaxed using Kullback-Leibler divergence. We develop optimization algorithms on Bures-Wasserstein manifold, named the Exact Geodesic Gradient Descent and Hybrid Gradient Descent algorithms. While the Exact Geodesic Gradient Descent method is based on computing the exact closed form of the first-order derivative of the objective function of the barycenter along a geodesic on the Bures manifold, the Hybrid Gradient Descent method utilizes optimizer components when solving the SUOT problem to replace outlier measures before applying the Riemannian Gradient Descent. We establish the theoretical convergence guarantees for both methods and demonstrate that the Exact Geodesic Gradient Descent algorithm attains a dimension-free convergence rate. Finally, we conduct experiments to compare the normal Wasserstein Barycenter with ours and perform an ablation study.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google