Safe Multi-Task Bayesian Optimization

要約

ベイジアン最適化は、その高いサンプル効率とノイズ耐性により、システムを安全にオンライン最適化するための強力なツールとなっています。
さらにスピードアップするために、システムの縮小物理モデルを最適化に組み込んでプロセスを加速することができます。これは、モデルが実際のシステムの近似値を提供でき、モデルからのサンプリングが大幅に安価になるためです。
モデルと現実の類似性は追加のハイパーパラメーターによって表され、最適化プロセス内で学習されます。
安全性は、ベイズ最適化などのオンライン最適化手法にとって重要な基準です。ベイジアン最適化については、既知のハイパーパラメータの仮定の下で安全性を保証する最近の文献で取り上げられています。
ただし、実際にはこれは当てはまりません。
したがって、マルチタスク設定を満たすようにロバスト ガウス プロセスの一様誤差限界を拡張します。これには、マルコフ連鎖モンテカルロ法を利用したハイパーパラメータ事後分布からの信頼領域の計算が含まれます。
次に、堅牢な安全限界を使用してベイジアン最適化を適用し、モデルの測定値を組み込みながらシステムを安全に最適化します。
シミュレーションでは、モデルの忠実度に応じて、他の最先端の安全なベイジアン最適化手法と比較して、最適化を大幅に高速化できることが示されています。

要約(オリジナル)

Bayesian optimization has become a powerful tool for safe online optimization of systems, due to its high sample efficiency and noise robustness. For further speed-up reduced physical models of the system can be incorporated into the optimization to accelerate the process, since the models are able to offer an approximation of the actual system, and sampling from them is significantly cheaper. The similarity between model and reality is represented by additional hyperparameters and learned within the optimization process. Safety is an important criteria for online optimization methods like Bayesian optimization, which has been addressed by recent literature, which provide safety guarantees under the assumption of known hyperparameters. However, in practice this is not applicable. Therefore, we extend the robust Gaussian process uniform error bounds to meet the multi-task setting, which involves the calculation of a confidence region from the hyperparameter posterior distribution utilizing Markov chain Monte Carlo methods. Then, using the robust safety bounds, Bayesian optimization is applied to safely optimize the system while incorporating measurements of the models. Simulations show that the optimization can be significantly accelerated compared to other state-of-the-art safe Bayesian optimization methods depending on the fidelity of the models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google