Voronoi Candidates for Bayesian Optimization

要約

ベイジアン最適化 (BO) は、ブラックボックス関数を効率的に最適化するための洗練されたアプローチを提供します。
ただし、取得基準には独自の困難な内部最適化が必要であり、これにより大幅なオーバーヘッドが発生する可能性があります。
多くの実際的な BO 手法、特に高次元の手法では、取得関数の形式的で連続的な最適化を回避し、代わりに有限セットの空間充填候補を個別に検索します。
ここでは、現在の設計点のボロノイ テッセレーションの境界上にある候補を使用することを提案します。したがって、それらの候補は 2 つ以上の点から等距離になります。
テッセレーションを明示的に生成せずにボロノイ境界を直接サンプリングすることで効率的に実装するための戦略について説明します。これにより、高次元で大規模な設計に対応できます。
期待される改善を伴うガウス プロセスによって最適化された一連のテスト問題に関して、私たちが提案したアプローチは、精度を損なうことなく、複数開始の連続検索の実行時間を大幅に改善します。

要約(オリジナル)

Bayesian optimization (BO) offers an elegant approach for efficiently optimizing black-box functions. However, acquisition criteria demand their own challenging inner-optimization, which can induce significant overhead. Many practical BO methods, particularly in high dimension, eschew a formal, continuous optimization of the acquisition function and instead search discretely over a finite set of space-filling candidates. Here, we propose to use candidates which lie on the boundary of the Voronoi tessellation of the current design points, so they are equidistant to two or more of them. We discuss strategies for efficient implementation by directly sampling the Voronoi boundary without explicitly generating the tessellation, thus accommodating large designs in high dimension. On a battery of test problems optimized via Gaussian processes with expected improvement, our proposed approach significantly improves the execution time of a multi-start continuous search without a loss in accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google