Towards One Model for Classical Dimensionality Reduction: A Probabilistic Perspective on UMAP and t-SNE

要約

このホワイトペーパーでは、UMAPやT-SNEなどの次元削減方法は、ProbDRで導入されたモデルに対応するマップ推論方法としてほぼ再起動できることを示しています。
この解釈は、これらの共分散に対応する分散が低く（潜在的に誤ったこと）ことを示すことにより、このようなアルゴリズムに対するより深い理論的および意味的洞察を提供し、グラフラプラシアンによって暗示されている共分散を説明するために使用できることを示すことにより、ガウスプロセス潜在変数モデルとのつながりを築くことができます。
また、同様の次元削減方法を研究できるツールも紹介します。

要約(オリジナル)

This paper shows that dimensionality reduction methods such as UMAP and t-SNE, can be approximately recast as MAP inference methods corresponding to a model introduced in ProbDR, that describes the graph Laplacian (an estimate of the data precision matrix) using a Wishart distribution, with a mean given by a non-linear covariance function evaluated on the latents. This interpretation offers deeper theoretical and semantic insights into such algorithms, by showing that variances corresponding to these covariances are low (potentially misspecified), and forging a connection to Gaussian process latent variable models by showing that well-known kernels can be used to describe covariances implied by graph Laplacians. We also introduce tools with which similar dimensionality reduction methods can be studied.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google