Towards Reliable Uncertainty Quantification via Deep Ensembles in Multi-output Regression Task

要約

タイトル： Deep Ensemblesによる信頼性の高い不確実性量子化を目指して　-マルチ出力回帰タスクにおける-
要約：

-Deep ensembleは、ベイジアン推論の近似に対する単純で直接的なアプローチであり、多くの分類タスクに適用されてきた。
-本研究は、ミサイル構成の空力性能を予測するマルチ出力回帰タスクで、このアプローチを包括的に調査することを目的としている。
-アンサンブルで使用するニューラルネットワーク数の影響を検討することにより、推定された不確実性の自信過剰傾向が明らかになった。
-その文脈で、事後校正法を適用する深層アンサンブルフレームワークを提案し、改善された不確実性量子化性能が示された。
-不確実性量子化における最も普及したモデルであるGaussianプロセス回帰と比較し、回帰精度、推定された不確実性の信頼性、およびトレーニング効率の面で優れた性能が証明された。
-最後に、提案されたフレームワークがベイジアン最適化の結果に与える影響を検討し、Deep Ensembleが校正された場合とそうでない場合で完全に異なる探索特性が生じることを示した。
-このフレームワークは、この研究で使用された特定の問題に対する特別な仮定がされていないため、どの回帰タスクにも簡単に適用および拡張することができる。

要約(オリジナル)

Deep ensemble is a simple and straightforward approach for approximating Bayesian inference and has been successfully applied to many classification tasks. This study aims to comprehensively investigate this approach in the multi-output regression task to predict the aerodynamic performance of a missile configuration. By scrutinizing the effect of the number of neural networks used in the ensemble, an obvious trend toward underconfidence in estimated uncertainty is observed. In this context, we propose the deep ensemble framework that applies the post-hoc calibration method, and its improved uncertainty quantification performance is demonstrated. It is compared with Gaussian process regression, the most prevalent model for uncertainty quantification in engineering, and is proven to have superior performance in terms of regression accuracy, reliability of estimated uncertainty, and training efficiency. Finally, the impact of the suggested framework on the results of Bayesian optimization is examined, showing that whether or not the deep ensemble is calibrated can result in completely different exploration characteristics. This framework can be seamlessly applied and extended to any regression task, as no special assumptions have been made for the specific problem used in this study.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI