Energy-Guided Continuous Entropic Barycenter Estimation for General Costs

要約

最適輸送（OT）バリセンターは、確率分布の幾何学的特性を捉えつつ平均化する数学的根拠のある方法である。要するに、OTの不一致を考慮した確率分布の平均を取ることがバリセンターの課題である。我々は、任意のOTコスト関数に対して、連続的なエントロピーOT（EOT）バリセンターを近似する新しいアルゴリズムを提案する。我々のアプローチは、最近MLコミュニティで注目されている弱いOTに基づくEOT問題の二重再定式化に基づいて構築されている。(ii)このアプローチは、Energy-Based Models (EBMs)の学習手順とシームレスに相互接続し、目的の問題に対してよく調整されたアルゴリズムを使用することができる。検証のために、非ユークリッドコスト関数を含む、いくつかの低次元シナリオと画像空間設定を検討した。さらに、事前に訓練された生成モデルによって生成された画像多様体上の重心を学習するという実用的なタスクを調査し、実世界への応用のための新しい方向性を切り開く。我々のコードはhttps://github.com/justkolesov/EnergyGuidedBarycenters。

要約(オリジナル)

Optimal transport (OT) barycenters are a mathematically grounded way of averaging probability distributions while capturing their geometric properties. In short, the barycenter task is to take the average of a collection of probability distributions w.r.t. given OT discrepancies. We propose a novel algorithm for approximating the continuous Entropic OT (EOT) barycenter for arbitrary OT cost functions. Our approach is built upon the dual reformulation of the EOT problem based on weak OT, which has recently gained the attention of the ML community. Beyond its novelty, our method enjoys several advantageous properties: (i) we establish quality bounds for the recovered solution; (ii) this approach seamlessly interconnects with the Energy-Based Models (EBMs) learning procedure enabling the use of well-tuned algorithms for the problem of interest; (iii) it provides an intuitive optimization scheme avoiding min-max, reinforce and other intricate technical tricks. For validation, we consider several low-dimensional scenarios and image-space setups, including non-Euclidean cost functions. Furthermore, we investigate the practical task of learning the barycenter on an image manifold generated by a pretrained generative model, opening up new directions for real-world applications. Our code is available at https://github.com/justkolesov/EnergyGuidedBarycenters.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL