Domain-Agnostic Batch Bayesian Optimization with Diverse Constraints via Bayesian Quadrature

要約

現実世界の最適化問題は、多くの場合、(1) 多様な制約、(2) 離散空間と混合空間の複雑な組み合わせを特徴とし、(3) 高度な並列化が可能です。
(4) 未知の制約が満たされない場合、目的関数をクエリできない場合もあります。
創薬では、ヒトでの臨床試験(目的関数の調査)を進める前に、動物実験における安全性(未知の制約)を確立する必要があります。
しかし、既存の研究のほとんどは、上記の 3 つの問題のそれぞれを個別にターゲットにしており、(4) クエリ拒否に関する未知の制約を考慮していません。
多様な制約や型破りな入力空間を伴う問題の場合、これらの手法は相互に互換性がないことが多いため、適用することが困難です。
我々は、安達らのSOBERに基づいて、ベイジアン最適化のためのドメインに依存しない賢明な並列アクティブサンプラーであるcSOBERを提案します。
(2023年)。
未知の制約の下での実行不可能性を、推定できる統合誤差の一種として考えます。
我々は、予想される拒否率で利用と探索のバランスを自動的にとる直交精度の許容誤差などの誤差を伝播する、理論に基づいたアプローチを提案します。
さらに、私たちの方法は、従来のゼロリスクケースを含む、適応許容誤差を介して、多様な制約および/または離散混合空間に柔軟に対応します。
私たちは、安全性制約のある創薬や、グラフ構造空間での人間関係を意識したチームの最適化など、現実世界のブラックボックス制約のあるさまざまな問題において、cSOBER が競合ベースラインを上回るパフォーマンスを発揮することを示します。

要約(オリジナル)

Real-world optimisation problems often feature complex combinations of (1) diverse constraints, (2) discrete and mixed spaces, and are (3) highly parallelisable. (4) There are also cases where the objective function cannot be queried if unknown constraints are not satisfied, e.g. in drug discovery, safety on animal experiments (unknown constraints) must be established before human clinical trials (querying objective function) may proceed. However, most existing works target each of the above three problems in isolation and do not consider (4) unknown constraints with query rejection. For problems with diverse constraints and/or unconventional input spaces, it is difficult to apply these techniques as they are often mutually incompatible. We propose cSOBER, a domain-agnostic prudent parallel active sampler for Bayesian optimisation, based on SOBER of Adachi et al. (2023). We consider infeasibility under unknown constraints as a type of integration error that we can estimate. We propose a theoretically-driven approach that propagates such error as a tolerance in the quadrature precision that automatically balances exploitation and exploration with the expected rejection rate. Moreover, our method flexibly accommodates diverse constraints and/or discrete and mixed spaces via adaptive tolerance, including conventional zero-risk cases. We show that cSOBER outperforms competitive baselines on diverse real-world blackbox-constrained problems, including safety-constrained drug discovery, and human-relationship-aware team optimisation over graph-structured space.

arxiv情報

著者 Masaki Adachi,Satoshi Hayakawa,Xingchen Wan,Martin Jørgensen,Harald Oberhauser,Michael A. Osborne
発行日 2023-06-09 12:17:18+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: 62C10, 62F15, cs.AI, cs.LG, cs.NA, math.NA, stat.CO, stat.ML パーマリンク