Minimizing the Thompson Sampling Regret-to-Sigma Ratio (TS-RSR): a provably efficient algorithm for batch Bayesian Optimization

要約

この論文では、バッチ ベイジアン最適化 (BO) の新しいアプローチを紹介します。このアプローチでは、後悔対不確実性の比率のトンプソン サンプリング近似を最小化することによってサンプリングが行われます。
私たちの目的は、予測手段または不確実性が高いポイントに焦点を当てながら、ポイント間の冗長性を最小限に抑える方法で、各バッチで選択されたアクションを調整できるようにすることです。
私たちは、アルゴリズムのリグロングに対して、高い確率の理論的保証を提供します。
最後に、数値的には、私たちの手法がさまざまな非凸テスト関数で最先端のパフォーマンスを達成し、いくつかの競合ベンチマークのバッチ BO アルゴリズムを平均で 1 桁上回っていることを示します。

要約(オリジナル)

This paper presents a new approach for batch Bayesian Optimization (BO), where the sampling takes place by minimizing a Thompson Sampling approximation of a regret to uncertainty ratio. Our objective is able to coordinate the actions chosen in each batch in a way that minimizes redundancy between points whilst focusing on points with high predictive means or high uncertainty. We provide high-probability theoretical guarantees on the regret of our algorithm. Finally, numerically, we demonstrate that our method attains state-of-the-art performance on a range of nonconvex test functions, where it outperforms several competitive benchmark batch BO algorithms by an order of magnitude on average.

arxiv情報

著者 Zhaolin Ren,Na Li
発行日 2024-03-07 18:58:26+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, math.OC, stat.ML パーマリンク