Dual Accuracy-Quality-Driven Neural Network for Prediction Interval Generation

要約

実世界のアプリケーションにおける深層学習モデルの信頼性を高めるには、正確な不確実性の定量化が必要です。
回帰タスクの場合、深層学習モデルの決定論的予測とともに予測間隔 (PI) を提供する必要があります。
このような PI は、十分に狭く、確率密度の大部分を捉えている限り、有用または「高品質」です。
本稿では、従来のターゲット予測に加えて、回帰ベースのニューラルネットワークの予測区間を自動的に学習する方法を紹介します。
特に、2 つのコンパニオン ニューラル ネットワークをトレーニングします。1 つは 1 つの出力 (ターゲット推定値) を使用し、もう 1 つは 2 つの出力 (対応する PI の上限と下限) を使用します。
私たちの主な貢献は、ターゲット推定ネットワークの出力を考慮した PI 生成ネットワーク用の新しい損失関数の設計であり、2 つの最適化目標があります。平均予測区間幅の最小化と、予測区間幅を最大化する制約を使用した PI の整合性の確保です。
予測区間の確率範囲を暗黙的にカバーします。
さらに、損失関数内で両方の目的のバランスをとる自己適応係数を導入し、微調整のタスクを軽減します。
合成データセット、8 つのベンチマーク データセット、および現実世界の作物収量予測データセットを使用した実験では、私たちの方法が名目確率範囲を維持し、ターゲット推定精度を損なうことなく、大幅に狭い PI を生成できることが示されました。
3 つの最先端のニューラル ネットワーク ベースのメソッド。
言い換えれば、私たちの方法はより高品質の PI を生成することが示されました。

要約(オリジナル)

Accurate uncertainty quantification is necessary to enhance the reliability of deep learning models in real-world applications. In the case of regression tasks, prediction intervals (PIs) should be provided along with the deterministic predictions of deep learning models. Such PIs are useful or ‘high-quality’ as long as they are sufficiently narrow and capture most of the probability density. In this paper, we present a method to learn prediction intervals for regression-based neural networks automatically in addition to the conventional target predictions. In particular, we train two companion neural networks: one that uses one output, the target estimate, and another that uses two outputs, the upper and lower bounds of the corresponding PI. Our main contribution is the design of a novel loss function for the PI-generation network that takes into account the output of the target-estimation network and has two optimization objectives: minimizing the mean prediction interval width and ensuring the PI integrity using constraints that maximize the prediction interval probability coverage implicitly. Furthermore, we introduce a self-adaptive coefficient that balances both objectives within the loss function, which alleviates the task of fine-tuning. Experiments using a synthetic dataset, eight benchmark datasets, and a real-world crop yield prediction dataset showed that our method was able to maintain a nominal probability coverage and produce significantly narrower PIs without detriment to its target estimation accuracy when compared to those PIs generated by three state-of-the-art neural-network-based methods. In other words, our method was shown to produce higher-quality PIs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google