Boundary Exploration for Bayesian Optimization With Unknown Physical Constraints

要約

ベイジアン最適化は、評価数が厳しく制限されているブラックボックス関数の最適化に適用されることに成功しています。
ただし、実際のアプリケーションの多くでは、物理的またはシステムの制限により、どの設計が実現可能であるかを事前に知ることは困難または不可能です。
これらの問題は、未知の制約を持つ未知の関数を最適化するというさらに困難な問題につながります。
この論文では、このようなシナリオでは、最適解は通常、設計空間の実行可能領域と実行不可能な領域の境界に位置し、内部最適化よりもかなり困難になることが観察されています。
この観察に触発されて、私たちは、実現可能な設計と実現不可能な設計の境界を効率的に探索する新しいベイジアン最適化手法である BE-CBO を提案します。
境界を特定するために、複雑な境界を捕捉するための標準的なガウス プロセスよりも優れたパフォーマンスを発揮するニューラル ネットワークのアンサンブルを使用して制約を学習します。
私たちの手法は、合成ベンチマークと現実世界のベンチマークに関する包括的な実験を通じて、最先端の手法に対して優れたパフォーマンスを実証しています。
コードはhttps://github.com/yunshengtian/BE-CBOで入手できます。

要約(オリジナル)

Bayesian optimization has been successfully applied to optimize black-box functions where the number of evaluations is severely limited. However, in many real-world applications, it is hard or impossible to know in advance which designs are feasible due to some physical or system limitations. These issues lead to an even more challenging problem of optimizing an unknown function with unknown constraints. In this paper, we observe that in such scenarios optimal solution typically lies on the boundary between feasible and infeasible regions of the design space, making it considerably more difficult than that with interior optima. Inspired by this observation, we propose BE-CBO, a new Bayesian optimization method that efficiently explores the boundary between feasible and infeasible designs. To identify the boundary, we learn the constraints with an ensemble of neural networks that outperform the standard Gaussian Processes for capturing complex boundaries. Our method demonstrates superior performance against state-of-the-art methods through comprehensive experiments on synthetic and real-world benchmarks. Code available at: https://github.com/yunshengtian/BE-CBO

arxiv情報

提供元, 利用サービス

arxiv.jp, Google