Feasibility-Driven Trust Region Bayesian Optimization

要約

Bayesian Optimizationは、厳しい評価予算の下で実際の最適化タスクを解決するための強力なツールであり、費用のかかるシミュレーションや実験を含むアプリケーションに適しています。
ただし、これらのタスクの多くは、分析的定式化が不明であり、しばしば実行可能な領域が小さく、不規則で、識別が困難な高次元空間で定義される高価な制約の存在によっても特徴付けられます。
そのような場合、最適化予算のかなりの部分は、既存の方法の有効性を制限する最初の実行可能なソリューションを見つけようとするだけで費やすことができます。
この作業では、実現可能性駆動型の信頼地域のベイジアン最適化（Furbo）アルゴリズムを提示します。
Furboは、客観的な代理モデルと制約の両方の代理モデルからの情報を使用して、次の候補ソリューションが選択される信頼領域を繰り返し定義します。
当社の適応戦略により、Trust Regionは反復間で大幅にシフトしてサイズを変更することができ、オプティマイザーが検索を迅速に再び焦点を合わせ、実現可能な質の高いソリューションの発見を一貫して加速させることができます。
BBOBが制約した完全なCoCoベンチマークスイートおよびその他の物理学にインスパイアされたベンチマークでの広範なテストを通じて、Furboの有効性を経験的に実証し、2から60の範囲の制約重大度と問題の次元のさまざまなレベルにわたって制約されたブラックボックスの最適化のための最先端のベースラインと比較します。

要約(オリジナル)

Bayesian optimization is a powerful tool for solving real-world optimization tasks under tight evaluation budgets, making it well-suited for applications involving costly simulations or experiments. However, many of these tasks are also characterized by the presence of expensive constraints whose analytical formulation is unknown and often defined in high-dimensional spaces where feasible regions are small, irregular, and difficult to identify. In such cases, a substantial portion of the optimization budget may be spent just trying to locate the first feasible solution, limiting the effectiveness of existing methods. In this work, we present a Feasibility-Driven Trust Region Bayesian Optimization (FuRBO) algorithm. FuRBO iteratively defines a trust region from which the next candidate solution is selected, using information from both the objective and constraint surrogate models. Our adaptive strategy allows the trust region to shift and resize significantly between iterations, enabling the optimizer to rapidly refocus its search and consistently accelerate the discovery of feasible and good-quality solutions. We empirically demonstrate the effectiveness of FuRBO through extensive testing on the full BBOB-constrained COCO benchmark suite and other physics-inspired benchmarks, comparing it against state-of-the-art baselines for constrained black-box optimization across varying levels of constraint severity and problem dimensionalities ranging from 2 to 60.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google