CreINNs: Credal-Set Interval Neural Networks for Uncertainty Estimation in Classification Tasks

要約

不確実性推定は、ニューラル ネットワークの信頼性を向上させるためにますます魅力的になっています。
この研究では、分類タスク用に設計された新しい資格セット間隔ニューラル ネットワーク (CreINN) を紹介します。
CreINN は、従来の間隔ニューラル ネットワーク構造を維持し、確率間隔の数学的枠組みを使用してクレダル セットを予測しながら、決定論的な間隔を通じて重みの不確実性を捕捉します。
分布外検出ベンチマーク (CIFAR10 対 SVHN) の実験による検証では、変分ベイジアン ニューラル ネットワーク (BNN) やディープ アンサンブル (DE) と比較した場合、CreINN が認識論的不確実性推定で優れていることが示されています。
さらに、CreINN は変分 BNN と比較して計算量が大幅に減少し、DE よりもモデル サイズが小さくなります。

要約(オリジナル)

Uncertainty estimation is increasingly attractive for improving the reliability of neural networks. In this work, we present novel credal-set interval neural networks (CreINNs) designed for classification tasks. CreINNs preserve the traditional interval neural network structure, capturing weight uncertainty through deterministic intervals, while forecasting credal sets using the mathematical framework of probability intervals. Experimental validations on an out-of-distribution detection benchmark (CIFAR10 vs SVHN) showcase that CreINNs outperform epistemic uncertainty estimation when compared to variational Bayesian neural networks (BNNs) and deep ensembles (DEs). Furthermore, CreINNs exhibit a notable reduction in computational complexity compared to variational BNNs and demonstrate smaller model sizes than DEs.

arxiv情報

著者 Kaizheng Wang,Keivan Shariatmadar,Shireen Kudukkil Manchingal,Fabio Cuzzolin,David Moens,Hans Hallez
発行日 2024-01-10 10:04:49+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG パーマリンク