HiBO: Hierarchical Bayesian Optimization via Adaptive Search Space Partitioning

要約

高次元検索空間におけるブラックボックス関数の最適化は、従来のベイジアン最適化 (BO) にとって困難であることが知られています。
このペーパーでは、グローバル レベルの検索スペース分割情報をローカル BO ベースのオプティマイザーの取得戦略に統合する新しい階層アルゴリズムである HiBO を紹介します。
HiBO は、検索ツリー ベースのグローバル レベル ナビゲーターを採用して、検索スペースをさまざまなサンプリング可能性を持つパーティションに適応的に分割します。
次に、ローカル オプティマイザーはこのグローバル レベルの情報を利用して、検索スペース内の最も有望な領域に向けて取得戦略を導きます。
包括的な一連の評価により、HiBO が高次元合成ベンチマークにおいて最先端の手法を上回っており、データベース管理システム (DBMS) の構成を調整するという実際のタスクにおいて顕著な実用的な効果を示していることが実証されています。

要約(オリジナル)

Optimizing black-box functions in high-dimensional search spaces has been known to be challenging for traditional Bayesian Optimization (BO). In this paper, we introduce HiBO, a novel hierarchical algorithm integrating global-level search space partitioning information into the acquisition strategy of a local BO-based optimizer. HiBO employs a search-tree-based global-level navigator to adaptively split the search space into partitions with different sampling potential. The local optimizer then utilizes this global-level information to guide its acquisition strategy towards most promising regions within the search space. A comprehensive set of evaluations demonstrates that HiBO outperforms state-of-the-art methods in high-dimensional synthetic benchmarks and presents significant practical effectiveness in the real-world task of tuning configurations of database management systems (DBMSs).

arxiv情報

提供元, 利用サービス

arxiv.jp, Google