Imprecise Bayesian Neural Networks

要約

不確実性の定量化と分布の変化に対するロバスト性は、機械学習と人工知能の重要な目標です。
ベイジアン ニューラル ネットワーク (BNN) では予測の不確実性を評価できますが、不確実性の原因が異なると区別できません。
不正確なベイジアン ニューラル ネットワーク (IBNN) を紹介します。
これらは標準 BNN の欠点の一部を一般化して克服します。
これらの後者は単一の事前分布と尤度分布を使用してトレーニングされるのに対し、IBNN はクレダル事前分布と尤度セットを使用してトレーニングされます。
これらにより、偶然的な不確実性と認識的な不確実性を区別し、それらを定量化することができます。
さらに、IBNN は、BNN よりも、事前の仕様ミスやその可能性のある仕様ミス、および分布のシフトに対して堅牢です。
また、確率的保証を享受できる一連の結果を計算するために使用することもできます。
IBNN を 2 つのケーススタディに適用します。
1 つは自動運転シナリオでの動作予測用、もう 1 つは人工膵臓制御のための血糖とインスリンの動態をモデル化するためです。
BNN ベンチマークのアンサンブルと比較した場合、IBNN のパフォーマンスが優れていることを示します。

要約(オリジナル)

Uncertainty quantification and robustness to distribution shifts are important goals in machine learning and artificial intelligence. Although Bayesian Neural Networks (BNNs) allow for uncertainty in the predictions to be assessed, different sources of uncertainty are indistinguishable. We present Imprecise Bayesian Neural Networks (IBNNs); they generalize and overcome some of the drawbacks of standard BNNs. These latter are trained using a single prior and likelihood distributions, whereas IBNNs are trained using credal prior and likelihood sets. They allow to distinguish between aleatoric and epistemic uncertainties, and to quantify them. In addition, IBNNs are more robust than BNNs to prior and likelihood misspecification, and to distribution shift. They can also be used to compute sets of outcomes that enjoy probabilistic guarantees. We apply IBNNs to two case studies. One, for motion prediction in autonomous driving scenarios, and two, to model blood glucose and insulin dynamics for artificial pancreas control. We show that IBNNs performs better when compared to an ensemble of BNNs benchmark.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google