Uncertainty-Aware Surrogate-based Amortized Bayesian Inference for Computationally Expensive Models

要約

ベイジアン推論は通常、後部分布を推定するために多数のモデル評価に依存しています。
マルコフチェーンモンテカルロ（MCMC）や償却ベイジアン推論（ABI）などの確立された方法は、計算上困難になる可能性があります。
ABIはトレーニング後に高速な推論を可能にしますが、十分なトレーニングデータを生成するには、高価なモデルでは不可能な数千のモデルシミュレーションが必要です。
代理モデルは、より低い計算コストで近似シミュレーションを提供し、トレーニング用の大規模なデータセットの生成を可能にすることにより、ソリューションを提供します。
ただし、導入された近似誤差と不確実性は、自信過剰の事後推定につながる可能性があります。
これに対処するために、不確実性を認識した代理ベースの償却ベイズ推論（UA-Sabi）を提案します。これは、代理モデリングとABIを組み合わせたフレームワークでありながら、推論パイプラインを介したサロゲートの不確実性を明示的に定量化および推進します。
私たちの実験は、このアプローチが、厳しい時間の制約の下であっても、計算上の高価なモデルに対する信頼性が高く、高速で繰り返されるベイジアン推論を可能にすることを示しています。

要約(オリジナル)

Bayesian inference typically relies on a large number of model evaluations to estimate posterior distributions. Established methods like Markov Chain Monte Carlo (MCMC) and Amortized Bayesian Inference (ABI) can become computationally challenging. While ABI enables fast inference after training, generating sufficient training data still requires thousands of model simulations, which is infeasible for expensive models. Surrogate models offer a solution by providing approximate simulations at a lower computational cost, allowing the generation of large data sets for training. However, the introduced approximation errors and uncertainties can lead to overconfident posterior estimates. To address this, we propose Uncertainty-Aware Surrogate-based Amortized Bayesian Inference (UA-SABI) – a framework that combines surrogate modeling and ABI while explicitly quantifying and propagating surrogate uncertainties through the inference pipeline. Our experiments show that this approach enables reliable, fast, and repeated Bayesian inference for computationally expensive models, even under tight time constraints.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google