Calibrated Uncertainty Estimation Improves Bayesian Optimization

要約

ベイジアン最適化は、アプリオリに真の形を知らなくても、ブラック ボックス関数の大域的最適値を取得するための一連の手順です。
最適化プロセスを導くには、目的関数の形状に対する適切な不確実性の推定が不可欠です。
ただし、真の目的関数がそのモデル (ガウス性など) によって行われた仮定に違反している場合、これらの推定値は不正確になる可能性があります。
この論文では、ベイジアン最適化モデルに必要な不確実性を研究し、理想的な不確実性を調整する必要があると主張しています。つまり、80% の予測区間には、80% の確率で真の結果が含まれている必要があります。
このプロパティを強制するための単純なアルゴリズムを提案し、ベイジアン最適化がより少ないステップでグローバル最適に到達できることを示します。
キャリブレーションされた不確実性の役割に関する理論的な洞察を提供し、標準的なベンチマーク関数とハイパーパラメーター最適化タスクでのメソッドのパフォーマンスの向上を示します。

要約(オリジナル)

Bayesian optimization is a sequential procedure for obtaining the global optimum of black-box functions without knowing a priori their true form. Good uncertainty estimates over the shape of the objective function are essential in guiding the optimization process. However, these estimates can be inaccurate if the true objective function violates assumptions made by its model (e.g., Gaussianity). This paper studies which uncertainties are needed in Bayesian optimization models and argues that ideal uncertainties should be calibrated — i.e., an 80% predictive interval should contain the true outcome 80% of the time. We propose a simple algorithm for enforcing this property and show that it enables Bayesian optimization to arrive at the global optimum in fewer steps. We provide theoretical insights into the role of calibrated uncertainties and demonstrate the improved performance of our method on standard benchmark functions and hyperparameter optimization tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google