On Probabilistic Pullback Metrics on Latent Hyperbolic Manifolds

要約

確率的潜在変数モデル（LVM）は、複雑で高次元のデータを低次元の表現で捉えるのに効果的であることが証明されている。最近の進歩により、リーマン多様体を潜在空間として用いることで、より柔軟に、より質の高い埋め込みを学習できることが示されている。本稿では、特に階層的関係をモデル化するのに適した双曲多様体に注目する。潜在空間を補間するための双曲線測地線に依存するこれまでのアプローチは、低データ領域を横切るパスを生成することが多く、不確実性の高い予測につながる。その代わりに、我々は、LVMの非線形写像によってもたらされる歪みを考慮するために、双曲線測地線をプルバック測地線で補強することを提案し、ガウス過程LVM（GPLVM）のプルバック測地線の完全な発展を提供する。我々の実験は、プルバックメトリック上の測地線が双曲線潜在空間の幾何学的形状を尊重するだけでなく、基礎となるデータ分布と整合し、予測における不確実性を大幅に低減することを実証する。

要約(オリジナル)

Probabilistic Latent Variable Models (LVMs) have proven effective in capturing complex, high-dimensional data through lower-dimensional representations. Recent advances show that using Riemannian manifolds as latent spaces provides more flexibility to learn higher quality embeddings. This paper focuses on the hyperbolic manifold, a particularly suitable choice for modeling hierarchical relationships. Previous approaches relying on hyperbolic geodesics for interpolating the latent space often generate paths crossing low-data regions, leading to highly uncertain predictions. Instead, we propose augmenting the hyperbolic metric with a pullback metric to account for distortions introduced by the LVM’s nonlinear mapping and provide a complete development for pullback metrics of Gaussian Process LVMs (GPLVMs). Our experiments demonstrate that geodesics on the pullback metric not only respect the geometry of the hyperbolic latent space but also align with the underlying data distribution, significantly reducing uncertainty in predictions.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL