Navigating in High-Dimensional Search Space: A Hierarchical Bayesian Optimization Approach

要約

高次元探索空間におけるブラックボックス関数の最適化は、従来のベイズ最適化（BO）では困難であることが知られている。本論文では、HiBOを紹介する。HiBOは、グローバルレベルの探索空間分割情報をローカルBOベースのオプティマイザの獲得戦略に統合する新しい階層的アルゴリズムである。HiBOは探索木をベースとしたグローバルレベルナビゲータを採用し、探索空間を異なるサンプリングポテンシャルを持つパーティションに適応的に分割する。そして、ローカル・オプティマイザは、このグローバルレベルの情報を利用して、探索空間内の最も有望な領域に向けて獲得戦略を導く。包括的な評価により、HiBOは高次元の合成ベンチマークにおいて最先端の手法を凌駕し、データベース管理システム（DBMS）の設定をチューニングする実世界のタスクにおいて重要な実用的効果を示すことが実証された。

要約(オリジナル)

Optimizing black-box functions in high-dimensional search spaces has been known to be challenging for traditional Bayesian Optimization (BO). In this paper, we introduce HiBO, a novel hierarchical algorithm integrating global-level search space partitioning information into the acquisition strategy of a local BO-based optimizer. HiBO employs a search-tree-based global-level navigator to adaptively split the search space into partitions with different sampling potential. The local optimizer then utilizes this global-level information to guide its acquisition strategy towards most promising regions within the search space. A comprehensive set of evaluations demonstrates that HiBO outperforms state-of-the-art methods in high-dimensional synthetic benchmarks and presents significant practical effectiveness in the real-world task of tuning configurations of database management systems (DBMSs).

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL