Affine Invariant Ensemble Transform Methods to Improve Predictive Uncertainty in Neural Networks

要約

アンサンブル カルマン フィルターの適切な拡張を使用して、ロジスティック回帰のベイズ推論を実行する問題を検討します。
粒子の数が無限に近づく傾向があるため、ほぼ事後からサンプリングし、これらの相互作用粒子システムの平均場限界までの定量的収束速度を証明する 2 つの相互作用粒子システムが提案されています。
さらに、これらの手法を適用し、ニューラル ネットワークにおける予測の不確実性を定量化するためのベイジアン近似の方法としての有効性を検証します。

要約(オリジナル)

We consider the problem of performing Bayesian inference for logistic regression using appropriate extensions of the ensemble Kalman filter. Two interacting particle systems are proposed that sample from an approximate posterior and prove quantitative convergence rates of these interacting particle systems to their mean-field limit as the number of particles tends to infinity. Furthermore, we apply these techniques and examine their effectiveness as methods of Bayesian approximation for quantifying predictive uncertainty in neural networks.

arxiv情報

著者 Diksha Bhandari,Jakiw Pidstrigach,Sebastian Reich
発行日 2024-07-01 15:55:16+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, cs.NA, math.NA, stat.ML パーマリンク