Direct Amortized Likelihood Ratio Estimation

要約

尤度フリーのシミュレーションベースの推論 (SBI) のための新しい償却尤度比推定器を導入します。
私たちの推定器はトレーニングが簡単で、ニューラル推定器の単一の前方パスを使用して尤度比を推定します。
私たちのアプローチは、2 つのニューラル ネットワーク出力値を比較する以前のアプローチとは異なり、2 つの競合するパラメーター セット間の尤度比を直接計算します。
このモデルを直接ニューラル比推定器 (DNRE) と呼びます。
DNRE 導入の一環として、事後分布の対応するモンテカルロ推定を導出します。
新しい比率推定量をベンチマークし、文献にある以前の比率推定量と比較します。
私たちの新しい比率推定器は、多くの場合、これらの以前のアプローチよりも優れていることを示します。
さらなる貢献として、尤度比推定量の新しい微分推定量を導入します。これにより、尤度のないハミルトニアン モンテカルロ (HMC) とランダムウォーク メトロポリス ヘイスティングス (MH) を比較できるようになります。
これまで示されていなかった、HMC が同様に競争力があることを示します。
最後に、ニューラル比推定器を使用してクアッドコプターを設計することにより、SBI の新しい実世界アプリケーションを組み込みます。
コードは https://github.com/SRI-CSL/dnre で入手できます。

要約(オリジナル)

We introduce a new amortized likelihood ratio estimator for likelihood-free simulation-based inference (SBI). Our estimator is simple to train and estimates the likelihood ratio using a single forward pass of the neural estimator. Our approach directly computes the likelihood ratio between two competing parameter sets which is different from the previous approach of comparing two neural network output values. We refer to our model as the direct neural ratio estimator (DNRE). As part of introducing the DNRE, we derive a corresponding Monte Carlo estimate of the posterior. We benchmark our new ratio estimator and compare to previous ratio estimators in the literature. We show that our new ratio estimator often outperforms these previous approaches. As a further contribution, we introduce a new derivative estimator for likelihood ratio estimators that enables us to compare likelihood-free Hamiltonian Monte Carlo (HMC) with random-walk Metropolis-Hastings (MH). We show that HMC is equally competitive, which has not been previously shown. Finally, we include a novel real-world application of SBI by using our neural ratio estimator to design a quadcopter. Code is available at https://github.com/SRI-CSL/dnre.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google