Stationary Kernels and Gaussian Processes on Lie Groups and their Homogeneous Spaces I: the compact case

要約

ガウス過程はおそらく、機械学習における時空間モデルの中で最も重要なクラスです。
これらはモデル化された関数に関する事前情報をエンコードし、正確または近似のベイジアン学習に使用できます。
多くのアプリケーション、特に物理科学や工学だけでなく、地球統計学や神経科学などの分野でも、対称性に対する不変性は、考慮できる事前情報の最も基本的な形式の 1 つです。
このような対称性に対するガウス過程の共分散の不変性により、そのような空間に対する定常性の概念の最も自然な一般化が生じます。
この研究では、対称性のコンテキストで生じる非常に大きなクラスの非ユークリッド空間上で定常ガウス過程を構築するための建設的で実用的な手法を開発します。
私たちの技術により、(i) 共分散カーネルの計算と、(ii) そのような空間上で定義された事前および事後のガウス過程からのサンプルの両方が実用的な方法で可能になります。
この研究は 2 つの部分に分かれており、それぞれに異なる技術的考察が含まれます。パート I ではコンパクトな空間を研究し、パート II では特定の構造を持つ非コンパクトな空間を研究します。
私たちの貢献により、私たちが研究している非ユークリッド ガウス プロセス モデルは、標準的なガウス プロセス ソフトウェア パッケージで利用できるよく理解されている計算技術と互換性があり、それによって実務者が利用できるようになります。

要約(オリジナル)

Gaussian processes are arguably the most important class of spatiotemporal models within machine learning. They encode prior information about the modeled function and can be used for exact or approximate Bayesian learning. In many applications, particularly in physical sciences and engineering, but also in areas such as geostatistics and neuroscience, invariance to symmetries is one of the most fundamental forms of prior information one can consider. The invariance of a Gaussian process’ covariance to such symmetries gives rise to the most natural generalization of the concept of stationarity to such spaces. In this work, we develop constructive and practical techniques for building stationary Gaussian processes on a very large class of non-Euclidean spaces arising in the context of symmetries. Our techniques make it possible to (i) calculate covariance kernels and (ii) sample from prior and posterior Gaussian processes defined on such spaces, both in a practical manner. This work is split into two parts, each involving different technical considerations: part I studies compact spaces, while part II studies non-compact spaces possessing certain structure. Our contributions make the non-Euclidean Gaussian process models we study compatible with well-understood computational techniques available in standard Gaussian process software packages, thereby making them accessible to practitioners.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google