Online Calibrated Regression for Adversarially Robust Forecasting

要約

不確実性を正確に推定することは、機械学習における意思決定と予測の重要な要素です。
ただし、IID データ用に開発された既存の不確実性推定方法は、これらの IID 仮定が成り立たなくなると失敗する可能性があります。
この論文では、オンライン学習の原理を活用した不確実性推定への新しいアプローチを紹介します。
具体的には、高精度を確保しながら予測の不確実性を処理するために、既存のオンライン学習方法を拡張しようとするオンライン調整予測と呼ばれるタスクを定義します。
敵対的な入力であっても、確率的予測の精度とキャリブレーションを正式に保証するこのタスクのアルゴリズムを紹介します。
いくつかの予測タスクでの方法の実際的な有用性を実証し、確率的予測が自然なベースラインよりも改善されることを示します。
全体として、私たちのアプローチは、調整された不確実性の推定を進歩させ、リスクに敏感なシナリオでのより堅牢で信頼性の高い意思決定と予測に向けた一歩を踏み出します。

要約(オリジナル)

Accurately estimating uncertainty is a crucial component of decision-making and forecasting in machine learning. However, existing uncertainty estimation methods developed for IID data may fail when these IID assumptions no longer hold. In this paper, we present a novel approach to uncertainty estimation that leverages the principles of online learning. Specifically, we define a task called online calibrated forecasting which seeks to extend existing online learning methods to handle predictive uncertainty while ensuring high accuracy. We introduce algorithms for this task that provide formal guarantees on the accuracy and calibration of probabilistic predictions even on adversarial input. We demonstrate the practical utility of our methods on several forecasting tasks, showing that our probabilistic predictions improve over natural baselines. Overall, our approach advances calibrated uncertainty estimation, and takes a step towards more robust and reliable decision-making and forecasting in risk-sensitive scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google