Likelihood-Free Adaptive Bayesian Inference via Nonparametric Distribution Matching

要約

可能性が分析的に利用できず、計算に扱いにくい場合、おおよそのベイジアン計算（ABC）が、おおよその後方推論のために広く使用されている方法論として浮上しています。
ただし、高次元の設定または拡散前における深刻な計算非効率性に苦しんでいます。
これらの制限を克服するために、従来のデータ空間の不一致をバイパスし、代わりにノンパラメトリック分布マッチングを介して後空間で分布を直接比較するフレームワークである適応ベイジアン推論（ABI）を提案します。
後部測定でのわずかに摘んだスライスされた小屋（MSW）距離を拡大し、その分位の表現を利用することにより、ABIは、後部分布間の発散を測定するという挑戦的な問題を1次元条件付き分位回帰タスクの扱いやすいシーケンスに変換します。
さらに、生成密度の推定を介して提案分布を更新することにより、後部近似を繰り返し改善する新しい適応拒絶反応サンプリングスキームを導入します。
理論的には、トリミングされたMSW距離のパラメトリック収束速度を確立し、耐性のしきい値が消えるとABI後部が真の後部に収束することを証明します。
広範な経験的評価を通じて、ABIは、特に高次元または依存の観察体制において、データベースのWasserstein ABC、SummaryベースのABC、および最先端のないシミュレーターを大幅に上回ることを実証します。

要約(オリジナル)

When the likelihood is analytically unavailable and computationally intractable, approximate Bayesian computation (ABC) has emerged as a widely used methodology for approximate posterior inference; however, it suffers from severe computational inefficiency in high-dimensional settings or under diffuse priors. To overcome these limitations, we propose Adaptive Bayesian Inference (ABI), a framework that bypasses traditional data-space discrepancies and instead compares distributions directly in posterior space through nonparametric distribution matching. By leveraging a novel Marginally-augmented Sliced Wasserstein (MSW) distance on posterior measures and exploiting its quantile representation, ABI transforms the challenging problem of measuring divergence between posterior distributions into a tractable sequence of one-dimensional conditional quantile regression tasks. Moreover, we introduce a new adaptive rejection sampling scheme that iteratively refines the posterior approximation by updating the proposal distribution via generative density estimation. Theoretically, we establish parametric convergence rates for the trimmed MSW distance and prove that the ABI posterior converges to the true posterior as the tolerance threshold vanishes. Through extensive empirical evaluation, we demonstrate that ABI significantly outperforms data-based Wasserstein ABC, summary-based ABC, and state-of-the-art likelihood-free simulators, especially in high-dimensional or dependent observation regimes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google