ROMO: Retrieval-enhanced Offline Model-based Optimization

要約

データ駆動型のブラック ボックス モデルベースの最適化 (MBO) 問題は、多くの実際のアプリケーション シナリオで発生します。その目的は、静的なオフライン データセットに基づいてブラック ボックス ターゲット関数を最大化する空間全体にわたる設計を見つけることです。
この作業では、制約付き MBO (CoMBO) と呼ばれる、より一般的だが困難な MBO 設定を検討します。この設定では、設計空間の一部のみを最適化でき、残りは環境によって制約されます。
CoMBO から生じる新たな課題は、制約を満たす設計のほとんどが評価において平凡であるということです。
したがって、従来の MBO 設定で観察された最良の設計をさらに強化するのではなく、特定の制約を維持しながら、オフライン データセットでこれらの凡庸な設計を最適化することに重点を置きます。
私たちは、オフライン データセットを取得し、関連するサンプルを集約して信頼できる予測を提供し、それを勾配ベースの最適化に使用する新しい導出可能なフォワード アプローチである、取得強化オフライン モデルベースの最適化 (ROMO) を提案します。
ROMO は実装が簡単で、CoMBO 設定における最先端のアプローチよりも優れたパフォーマンスを発揮します。
経験的に、合成ハートマン (3D) 関数データセット、産業用 CIO データセット、およびデザインベンチ ベンチマークの一連の変更されたタスクで実験を実施します。
結果は、ROMO がさまざまな制約付き最適化タスクで良好にパフォーマンスすることを示しています。

要約(オリジナル)

Data-driven black-box model-based optimization (MBO) problems arise in a great number of practical application scenarios, where the goal is to find a design over the whole space maximizing a black-box target function based on a static offline dataset. In this work, we consider a more general but challenging MBO setting, named constrained MBO (CoMBO), where only part of the design space can be optimized while the rest is constrained by the environment. A new challenge arising from CoMBO is that most observed designs that satisfy the constraints are mediocre in evaluation. Therefore, we focus on optimizing these mediocre designs in the offline dataset while maintaining the given constraints rather than further boosting the best observed design in the traditional MBO setting. We propose retrieval-enhanced offline model-based optimization (ROMO), a new derivable forward approach that retrieves the offline dataset and aggregates relevant samples to provide a trusted prediction, and use it for gradient-based optimization. ROMO is simple to implement and outperforms state-of-the-art approaches in the CoMBO setting. Empirically, we conduct experiments on a synthetic Hartmann (3D) function dataset, an industrial CIO dataset, and a suite of modified tasks in the Design-Bench benchmark. Results show that ROMO performs well in a wide range of constrained optimization tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google