Model Uncertainty in Evolutionary Optimization and Bayesian Optimization: A Comparative Analysis

要約

ブラックボックス最適化問題は、現実世界の多くのアプリケーションで一般的ですが、内部動作にアクセスせずに入出力相互作用を通じて最適化する必要があります。
これにより、シミュレーションに大量の計算リソースが消費されることがよくあります。
ベイジアン最適化 (BO) とサロゲート支援進化アルゴリズム (SAEA) は、このような課題に対処するために使用される 2 つの広く使用されている勾配なしの最適化手法です。
どちらのアプローチも、検索プロセスをガイドするサロゲート モデルに依存する同様の反復手順に従います。
この論文は、これら 2 つの方法間のモデルの不確実性の利用における類似点と相違点、およびアルゴリズムのパフォーマンスに対するモデルの不正確性の影響を解明することを目的としています。
新しいモデル支援戦略が導入されます。これは、未評価のソリューションを利用して子孫を生成し、進化アルゴリズムの集団ベースの検索機能を活用してモデル支援最適化の有効性を高めます。
実験結果は、提案されたアプローチが精度と効率の点で主流のベイジアン最適化アルゴリズムよりも優れていることを示しています。

要約(オリジナル)

Black-box optimization problems, which are common in many real-world applications, require optimization through input-output interactions without access to internal workings. This often leads to significant computational resources being consumed for simulations. Bayesian Optimization (BO) and Surrogate-Assisted Evolutionary Algorithm (SAEA) are two widely used gradient-free optimization techniques employed to address such challenges. Both approaches follow a similar iterative procedure that relies on surrogate models to guide the search process. This paper aims to elucidate the similarities and differences in the utilization of model uncertainty between these two methods, as well as the impact of model inaccuracies on algorithmic performance. A novel model-assisted strategy is introduced, which utilizes unevaluated solutions to generate offspring, leveraging the population-based search capabilities of evolutionary algorithm to enhance the effectiveness of model-assisted optimization. Experimental results demonstrate that the proposed approach outperforms mainstream Bayesian optimization algorithms in terms of accuracy and efficiency.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google