Practical and Rigorous Uncertainty Bounds for Gaussian Process Regression

要約

ガウス過程回帰は、予測の不確実性推定を提供するベイズ原理に基づく一般的なノンパラメトリック回帰手法です。
ただし、これらの推定値はベイジアン的な性質のものであるのに対し、安全性が保証された学習ベースの制御などの一部の重要なアプリケーションでは、頻度主義的な不確実性限界が必要となります。
このような厳密な境界はガウス過程で使用できますが、アプリケーションで使用するには保守的すぎます。
このため、実践者はこれらの境界をヒューリスティックに置き換えることが多く、理論上の保証がすべて破られてしまいます。
この問題に対処するために、厳密でありながら同時に実用的に役立つ新しい不確実性限界を導入します。
特に、境界は明示的に評価でき、最先端の結果よりもはるかに保守的ではありません。
さらに、特定のモデルの仕様の誤りが緩やかな劣化のみを引き起こすことを示します。
これらの利点と、数値例を使用して学習ベースの制御に対する結果の有用性を示します。

要約(オリジナル)

Gaussian Process Regression is a popular nonparametric regression method based on Bayesian principles that provides uncertainty estimates for its predictions. However, these estimates are of a Bayesian nature, whereas for some important applications, like learning-based control with safety guarantees, frequentist uncertainty bounds are required. Although such rigorous bounds are available for Gaussian Processes, they are too conservative to be useful in applications. This often leads practitioners to replacing these bounds by heuristics, thus breaking all theoretical guarantees. To address this problem, we introduce new uncertainty bounds that are rigorous, yet practically useful at the same time. In particular, the bounds can be explicitly evaluated and are much less conservative than state of the art results. Furthermore, we show that certain model misspecifications lead to only graceful degradation. We demonstrate these advantages and the usefulness of our results for learning-based control with numerical examples.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google