Large-Batch, Iteration-Efficient Neural Bayesian Design Optimization

要約

ベイジアン最適化 (BO) は、ブラックボックスで評価コストのかかる関数を最適化するための強力なフレームワークを提供します。
したがって、これは、通常は複数の目的が関係するエンジニアリング設計の問題にとって魅力的なツールです。
製造方法と測定方法、および並列コンピューティング インフラストラクチャの急速な進歩のおかげで、多くの設計問題のクエリを高度に並列化できるようになりました。
このクラスの問題は、サンプル効率から反復効率に焦点を移し、非常に大規模なバッチを処理する必要がある前例のないセットアップで BO に課題をもたらします。
我々は、これらの制限に対処するために特別に調整された新しいベイジアン最適化フレームワークを紹介します。
私たちの主な貢献は、目標だけでなくそれに関連する不確実性の非支配的な並べ替えを実行する、拡張性の高いサンプルベースの取得機能です。
さまざまなベイジアン ニューラル ネットワーク サロゲートと組み合わせた取得関数が、最小限の反復回数でデータ集約型の環境で効果的であることを示します。
最先端の多目的最適化と比較することで、私たちの方法の優位性を実証します。
私たちは、翼の設計と 3D プリンティングという 2 つの現実世界の問題に対して評価を実行し、私たちのアプローチの適用性と効率性を示しています。
コードは https://github.com/an-on-ym-ous/lbn_mobo で入手できます。

要約(オリジナル)

Bayesian optimization (BO) provides a powerful framework for optimizing black-box, expensive-to-evaluate functions. It is therefore an attractive tool for engineering design problems, typically involving multiple objectives. Thanks to the rapid advances in fabrication and measurement methods as well as parallel computing infrastructure, querying many design problems can be heavily parallelized. This class of problems challenges BO with an unprecedented setup where it has to deal with very large batches, shifting its focus from sample efficiency to iteration efficiency. We present a novel Bayesian optimization framework specifically tailored to address these limitations. Our key contribution is a highly scalable, sample-based acquisition function that performs a non-dominated sorting of not only the objectives but also their associated uncertainty. We show that our acquisition function in combination with different Bayesian neural network surrogates is effective in data-intensive environments with a minimal number of iterations. We demonstrate the superiority of our method by comparing it with state-of-the-art multi-objective optimizations. We perform our evaluation on two real-world problems — airfoil design and 3D printing — showcasing the applicability and efficiency of our approach. Our code is available at: https://github.com/an-on-ym-ous/lbn_mobo

arxiv情報

提供元, 利用サービス

arxiv.jp, Google