Big Batch Bayesian Active Learning by Considering Predictive Probabilities

要約

分類のためのバッチ ベイジアン アクティブ ラーニングの一般的な取得関数である BatchBALD が、認識的不確実性と偶然的不確実性を混同し、次善のパフォーマンスにつながる可能性があることを観察しました。
この観察に動機づけられて、認識論的な不確実性のみを示す予測確率に焦点を当てることを提案します。
その結果、取得関数のパフォーマンスが向上するだけでなく、評価が高速化され、以前よりも大きなバッチが可能になります。

要約(オリジナル)

We observe that BatchBALD, a popular acquisition function for batch Bayesian active learning for classification, can conflate epistemic and aleatoric uncertainty, leading to suboptimal performance. Motivated by this observation, we propose to focus on the predictive probabilities, which only exhibit epistemic uncertainty. The result is an acquisition function that not only performs better, but is also faster to evaluate, allowing for larger batches than before.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google