Particle-based Online Bayesian Sampling

要約

オンライン最適化は、現実世界のストリーミング データを追跡できるため、関心が高まっています。
オンライン最適化手法は頻度統計の設定で広く研究されていますが、ベイジアン サンプリング問題を使用したオンライン最適化を考慮した研究はほとんどありません。
この論文では、粒子のセットを使用して近似分布を表すオンライン粒子ベースの変分推論 (OPVI) アルゴリズムを研究します。
確率的近似の使用によって引き起こされる勾配誤差を減らすために、分散を減らすために亜線形増加バッチサイズ法を含めます。
動的に変化する一連のターゲット事後に関する OPVI アルゴリズムのパフォーマンスを追跡するために、動的な後悔を伴うワッサースタイン勾配流の観点から詳細な理論的分析を提供します。
合成およびベイジアン ニューラル ネットワークの実験は、提案されたアルゴリズムが、オンライン設定で既存のベイジアン サンプリング方法を単純に適用するよりも優れた結果を達成することを示しています。

要約(オリジナル)

Online optimization has gained increasing interest due to its capability of tracking real-world streaming data. Although online optimization methods have been widely studied in the setting of frequentist statistics, few works have considered online optimization with the Bayesian sampling problem. In this paper, we study an Online Particle-based Variational Inference (OPVI) algorithm that uses a set of particles to represent the approximating distribution. To reduce the gradient error caused by the use of stochastic approximation, we include a sublinear increasing batch-size method to reduce the variance. To track the performance of the OPVI algorithm with respect to a sequence of dynamically changing target posterior, we provide a detailed theoretical analysis from the perspective of Wasserstein gradient flow with a dynamic regret. Synthetic and Bayesian Neural Network experiments show that the proposed algorithm achieves better results than naively applying existing Bayesian sampling methods in the online setting.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google