Guaranteed Coverage Prediction Intervals with Gaussian Process Regression

要約

ガウス過程回帰 (GPR) は一般的な回帰手法であり、ほとんどの機械学習手法とは異なり、予測の不確実性の推定値を提供します。
ただし、これらの不確実性の推定は、モデルが十分に仕様化されているという前提に基づいていますが、必要な知識が入手できることはほとんどないため、ほとんどの実際のアプリケーションではこの前提に違反します。
その結果、生成された不確実性の推定値は非常に誤解を招くものになる可能性があります。
たとえば、95% の信頼水準に対して生成された予測区間 (PI) がカバーする真のラベルの 95% よりはるかに少ない可能性があります。
この問題に対処するために、このペーパーでは、Conformal Prediction (CP) と呼ばれる機械学習フレームワークに基づく GPR の拡張機能を紹介します。
この拡張機能により、モデルの仕様が完全に間違っている場合でも、必要なカバレッジを備えた PI の生成が保証されます。
提案されたアプローチは、GPR の利点と CP の有効なカバレッジ保証を組み合わせており、実行された実験結果は既存の方法よりも優れていることを示しています。

要約(オリジナル)

Gaussian Process Regression (GPR) is a popular regression method, which unlike most Machine Learning techniques, provides estimates of uncertainty for its predictions. These uncertainty estimates however, are based on the assumption that the model is well-specified, an assumption that is violated in most practical applications, since the required knowledge is rarely available. As a result, the produced uncertainty estimates can become very misleading; for example the prediction intervals (PIs) produced for the 95% confidence level may cover much less than 95% of the true labels. To address this issue, this paper introduces an extension of GPR based on a Machine Learning framework called, Conformal Prediction (CP). This extension guarantees the production of PIs with the required coverage even when the model is completely misspecified. The proposed approach combines the advantages of GPR with the valid coverage guarantee of CP, while the performed experimental results demonstrate its superiority over existing methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google