Learning Distributions on Manifolds with Free-form Flows

要約

特に自然科学やコンピューター ビジョンにおける多くの実世界のデータは、球面、トーラス、または回転行列のグループなどの既知のリーマン多様体上にあります。
このような多様体上の分布を学習する一般的なアプローチでは、モデルからサンプリングして密度を評価するために微分方程式を解く必要があります。
関数評価の数が多いと、結果としてサンプリング時間が遅くなります。
この研究では、単一関数の評価とその後の多様体への射影のみを必要とする代替アプローチを提案します。
トレーニングは、最近提案された自由形式フロー フレームワークをリーマン多様体に適応させることによって実現されます。
中心的なアイデアは、接線空間で評価されたトレースを介して負の対数尤度の勾配を推定することです。
私たちはさまざまな多様体で私たちの方法を評価し、以前の研究と比較して競争力のあるパフォーマンスでの推論が大幅に高速であることを発見しました。
コードは https://github.com/vislearn/FFF で公開しています。

要約(オリジナル)

Many real world data, particularly in the natural sciences and computer vision, lie on known Riemannian manifolds such as spheres, tori or the group of rotation matrices. The predominant approaches to learning a distribution on such a manifold require solving a differential equation in order to sample from the model and evaluate densities. The resulting sampling times are slowed down by a high number of function evaluations. In this work, we propose an alternative approach which only requires a single function evaluation followed by a projection to the manifold. Training is achieved by an adaptation of the recently proposed free-form flow framework to Riemannian manifolds. The central idea is to estimate the gradient of the negative log-likelihood via a trace evaluated in the tangent space. We evaluate our method on various manifolds, and find significantly faster inference at competitive performance compared to previous work. We make our code public at https://github.com/vislearn/FFF.

arxiv情報

著者 Peter Sorrenson,Felix Draxler,Armand Rousselot,Sander Hummerich,Ullrich Köthe
発行日 2023-12-15 14:58:34+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク