Likelihood-ratio-based confidence intervals for neural networks

要約

本稿では、ニューラルネットワークの信頼区間を構築するための、新しい尤度比ベースのアプローチの最初の実装を紹介する。DeepLRと呼ばれる我々の手法は、いくつかの定性的な利点を提供する。特に、データ量が限られた領域で拡張する非対称区間を構築する能力と、学習時間、ネットワークアーキテクチャ、正則化手法などの要素を本質的に取り込むことができる。この手法の現在の実装は、多くのディープラーニングアプリケーションにとって法外に高価であることを認めつつも、医療予測や宇宙物理学のような、単一の予測に対する信頼性の高い不確実性推定が不可欠な特定の分野では、その高コストは既に正当化される可能性がある。この研究は、尤度比に基づく不確実性推定の大きな可能性を強調し、今後の研究の有望な道を確立するものである。

要約(オリジナル)

This paper introduces a first implementation of a novel likelihood-ratio-based approach for constructing confidence intervals for neural networks. Our method, called DeepLR, offers several qualitative advantages: most notably, the ability to construct asymmetric intervals that expand in regions with a limited amount of data, and the inherent incorporation of factors such as the amount of training time, network architecture, and regularization techniques. While acknowledging that the current implementation of the method is prohibitively expensive for many deep-learning applications, the high cost may already be justified in specific fields like medical predictions or astrophysics, where a reliable uncertainty estimate for a single prediction is essential. This work highlights the significant potential of a likelihood-ratio-based uncertainty estimate and establishes a promising avenue for future research.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL