Mastering the exploration-exploitation trade-off in Bayesian Optimization

要約

ガウス プロセス ベースのベイジアン最適化は、ブラック ボックス関数、高価な関数、および複数の極値関数をグローバルに最適化するための、効率的な逐次戦略のサンプルとしてよく知られています。
ガウス プロセスの役割は、順次収集された観測値に応じて未知の関数の確率的近似を提供することですが、取得関数は、現在のガウス プロセスに応じて、探索と活用のバランスをとりながら、評価する次のソリューションの選択を推進します。
モデル。
科学界は効果的な探査・活用メカニズムを定義するために多大な努力を払っているにもかかわらず、マスター取得機能にはまだ程遠いです。
この論文では、アルゴリズムと人間による検索戦略の両方からの最も関連性の高い結果と洞察を統合して、探索的選択と搾取的選択の間のトレードオフを適応的に制御する新しい取得機能を提案します。
提案された取得関数を、多数のテスト関数およびさまざまな最先端の関数と比較します。これらの関数は、探索と活用の間のプレフィックス付きまたはランダムなスケジューリングに基づいています。
パレート分析は、最適値への収束と探索能力という 2 つの (相反する) 目標に関して実行されます。
結果は、提案された取得関数がほぼ常にパレート最適であり、2 つの目標間の最もバランスのとれたトレードオフであることを経験的に証明しています。

要約(オリジナル)

Gaussian Process based Bayesian Optimization is a well-known sample efficient sequential strategy for globally optimizing black-box, expensive, and multi-extremal functions. The role of the Gaussian Process is to provide a probabilistic approximation of the unknown function, depending on the sequentially collected observations, while an acquisition function drives the choice of the next solution to evaluate, balancing between exploration and exploitation, depending on the current Gaussian Process model. Despite the huge effort of the scientific community in defining effective exploration-exploitation mechanisms, we are still far away from the master acquisition function. This paper merges the most relevant results and insights from both algorithmic and human search strategies to propose a novel acquisition function, mastering the trade-off between explorative and exploitative choices, adaptively. We compare the proposed acquisition function on a number of test functions and against different state-of-the-art ones, which are instead based on prefixed or random scheduling between exploration and exploitation. A Pareto analysis is performed with respect to two (antagonistic) goals: convergence to the optimum and exploration capability. Results empirically prove that the proposed acquisition function is almost always Pareto optimal and also the most balanced trade-off between the two goals.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google