Conditioning of Banach Space Valued Gaussian Random Variables: An Approximation Approach Based on Martingales

要約

この論文では、2 つのバナッハ空間値を結合したガウス確率変数の条件付き分布を調査します。
これらの条件付き分布がやはりガウス分布であり、その平均と共分散がマーチンゲール法に基づく一般的な有限次元近似スキームによって決定されることを示します。
特に、このスキームで発生する共分散演算子は核ノルムに関して収束し、条件付き確率は弱く収束することがわかります。
さらに、(再現カーネル) ヒルベルト空間や連続関数空間などの重要なバナッハ空間のいくつかのクラスで近似スキームをどのように実装できるかについて詳細に説明します。
次に、一例として、パスの部分的だが無限の観測に条件付けされた連続パスを持つガウス過程の場合に、一般的な結果を適用します。
ここでは、有限数の観測値が十分に豊富で増加するセットを条件付けすると、一貫した近似が得られること、つまり、平均関数と共分散関数の両方が一様に収束し、条件付き確率が弱く収束することを示します。
さらに、これらの結果が機械学習で一般的なガウス プロセスの理解をどのように改善するかについても説明します。

要約(オリジナル)

In this paper we investigate the conditional distributions of two Banach space valued, jointly Gaussian random variables. We show that these conditional distributions are again Gaussian and that their means and covariances are determined by a general finite dimensional approximation scheme based upon a martingale approach. In particular, it turns out that the covariance operators occurring in this scheme converge with respect to the nuclear norm and that the conditional probabilities converge weakly. Moreover, we discuss in detail, how our approximation scheme can be implemented in several classes of important Banach spaces such as (reproducing kernel) Hilbert spaces and spaces of continuous functions. As an example, we then apply our general results to the case of Gaussian processes with continuous paths conditioned to partial but infinite observations of their paths. Here we show that conditioning on sufficiently rich, increasing sets of finitely many observations leads to consistent approximations, that is, both the mean and covariance functions converge uniformly and the conditional probabilities converge weakly. Moreover, we discuss how these results improve our understanding of the popular Gaussian processes for machine learning.

arxiv情報

著者 Ingo Steinwart
発行日 2024-08-06 07:53:09+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: (Primary), 28C20, 60B10, 60B11, 62F15, 62G05, 62G20, 68T05, cs.LG, math.PR, math.ST, stat.TH パーマリンク