Sensitivity-Aware Amortized Bayesian Inference

要約

感度分析では、統計分析の結果に対するさまざまなモデリングの選択の影響が明らかになります。
理論的には魅力的ですが、複雑なベイジアン モデルでは圧倒的に非効率的です。
この研究では、感度分析をニューラル ネットワークを使用したシミュレーション ベースの推論に効率的に統合するための多面的なアプローチである、感度を意識した償却ベイズ推論 (SA-ABI) を提案します。
まず、重み共有を利用して、最小限の計算オーバーヘッドでトレーニング プロセスにおける代替尤度と以前の仕様の間の構造的類似性をエンコードします。
2 番目に、ニューラル ネットワークの迅速な推論を利用して、データの摂動と前処理ステップに対する感度を評価します。
他のほとんどのベイズ手法とは対照的に、どちらのステップも、尤度、事前確率、またはデータセットの選択ごとにモデルを再適合するというコストのかかるボトルネックを回避します。
最後に、信頼性の低い近似 (モデルの仕様ミスなどによる) から生じる感度を検出するためにディープ アンサンブルを使用することを提案します。
私たちは、病気の発生のダイナミクスや地球温暖化の閾値から人間の意思決定に至るまで、応用モデリング問題におけるこの手法の有効性を実証します。
私たちの結果は、償却ベイジアン ワークフローのデフォルトの選択肢として感度を意識した推論をサポートしており、隠れている次元についての洞察をモデラーに自動的に提供します。

要約(オリジナル)

Sensitivity analyses reveal the influence of various modeling choices on the outcomes of statistical analyses. While theoretically appealing, they are overwhelmingly inefficient for complex Bayesian models. In this work, we propose sensitivity-aware amortized Bayesian inference (SA-ABI), a multifaceted approach to efficiently integrate sensitivity analyses into simulation-based inference with neural networks. First, we utilize weight sharing to encode the structural similarities between alternative likelihood and prior specifications in the training process with minimal computational overhead. Second, we leverage the rapid inference of neural networks to assess sensitivity to data perturbations and preprocessing steps. In contrast to most other Bayesian approaches, both steps circumvent the costly bottleneck of refitting the model for each choice of likelihood, prior, or data set. Finally, we propose to use deep ensembles to detect sensitivity arising from unreliable approximation (e.g., due to model misspecification). We demonstrate the effectiveness of our method in applied modeling problems, ranging from disease outbreak dynamics and global warming thresholds to human decision-making. Our results support sensitivity-aware inference as a default choice for amortized Bayesian workflows, automatically providing modelers with insights into otherwise hidden dimensions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google