Low-rank computation of the posterior mean in Multi-Output Gaussian Processes

要約

ガウスプロセス（GP）は、機械学習と計算科学の多用途ツールです。
ここでは、MOGPの事後平均を効率的に計算するためのマルチアウトプットガウスプロセス（MOGP）と低ランクのアプローチの場合を検討します。
低ランクの時空間データから始めて、空間と時間にわたる分離性を想定して、構造化された共分散関数を検討します。
この分離性は、共分散マトリックスを個々の共分散行列のクロネッカー積に分解することができます。
典型的なノイズ用語をモデルに組み込むには、後方平均を計算するために大規模なスタイン方程式の解が必要です。
このために、LRPCGメソッドとSylvester方程式ソルバーKPIKの組み合わせに基づいて、Stein方程式を解くために調整された効率的な低ランク法を提案します。
グラフフィルターを共分散行列として使用して、Real World Street Networkグラフの開発方法をテストします。
さらに、より効率的な収束を達成するために特定の仮定の下で採用できる度合いの平均共分散マトリックスを提案します。

要約(オリジナル)

Gaussian processes (GP) are a versatile tool in machine learning and computational science. We here consider the case of multi-output Gaussian processes (MOGP) and present low-rank approaches for efficiently computing the posterior mean of a MOGP. Starting from low-rank spatio-temporal data we consider a structured covariance function, assuming separability across space and time. This separability, in turn, gives a decomposition of the covariance matrix into a Kronecker product of individual covariance matrices. Incorporating the typical noise term to the model then requires the solution of a large-scale Stein equation for computing the posterior mean. For this, we propose efficient low-rank methods based on a combination of a LRPCG method with the Sylvester equation solver KPIK adjusted for solving Stein equations. We test the developed method on real world street network graphs by using graph filters as covariance matrices. Moreover, we propose a degree-weighted average covariance matrix, which can be employed under specific assumptions to achieve more efficient convergence.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google