Bounce: Reliable High-Dimensional Bayesian Optimization for Combinatorial and Mixed Spaces

要約

材料発見、ハードウェア設計、ニューラル アーキテクチャ検索、ポートフォリオ最適化などの影響力のあるアプリケーションでは、混合および組み合わせ入力空間を使用した高次元ブラック ボックス関数の最適化が必要です。
ベイズ最適化は、このような問題の解決において最近大きく進歩しましたが、詳細な分析により、現在の最先端の方法は信頼できないことが明らかになりました。
関数の未知の最適化が特定の構造を持たない場合、そのパフォーマンスは大幅に低下します。
組み合わせ空間および混合空間に対する信頼性の高いアルゴリズムのニーズを満たすために、この論文では、さまざまな変数タイプを次元数が増加する入れ子埋め込みへの新しいマップに依存するバウンスを提案します。
包括的な実験により、Bounce はさまざまな高次元の問題で最先端のパフォーマンスを確実に達成し、さらにはそれを改善することさえあることが示されています。

要約(オリジナル)

Impactful applications such as materials discovery, hardware design, neural architecture search, or portfolio optimization require optimizing high-dimensional black-box functions with mixed and combinatorial input spaces. While Bayesian optimization has recently made significant progress in solving such problems, an in-depth analysis reveals that the current state-of-the-art methods are not reliable. Their performances degrade substantially when the unknown optima of the function do not have a certain structure. To fill the need for a reliable algorithm for combinatorial and mixed spaces, this paper proposes Bounce that relies on a novel map of various variable types into nested embeddings of increasing dimensionality. Comprehensive experiments show that Bounce reliably achieves and often even improves upon state-of-the-art performance on a variety of high-dimensional problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google