Multi-Objective Bayesian Optimization with Active Preference Learning

要約

現実世界には、複数の基準を同時に最適化する必要があるブラックボックス最適化問題が数多くあります。
ただし、多目的最適化 (MOO) 問題では、パレート フロント全体を特定するには法外な検索コストが必要ですが、実際の多くのシナリオでは、意思決定者 (DM) は一連のパレート最適解の中から特定の解のみを必要とします。
我々は、高価な目的関数を使用してMOOで最も好ましいソリューションを特定するためのベイジアン最適化(BO)アプローチを提案します。このアプローチでは、DMのベイジアン選好モデルが、ペアワイズ選好と呼ばれる2種類の監視に基づいた対話的な方法で適応的に推定されます。
そして改善要望。
最も好ましい解決策を探るために、目的関数と DM プリファレンスの両方の不確実性が組み込まれた取得関数を定義します。
さらに、DM との対話コストを最小限に抑えるために、嗜好推定のための能動学習戦略も提案します。
機械学習モデルのベンチマーク関数最適化とハイパーパラメータ最適化問題を通じて、提案手法の有効性を実証します。

要約(オリジナル)

There are a lot of real-world black-box optimization problems that need to optimize multiple criteria simultaneously. However, in a multi-objective optimization (MOO) problem, identifying the whole Pareto front requires the prohibitive search cost, while in many practical scenarios, the decision maker (DM) only needs a specific solution among the set of the Pareto optimal solutions. We propose a Bayesian optimization (BO) approach to identifying the most preferred solution in the MOO with expensive objective functions, in which a Bayesian preference model of the DM is adaptively estimated by an interactive manner based on the two types of supervisions called the pairwise preference and improvement request. To explore the most preferred solution, we define an acquisition function in which the uncertainty both in the objective functions and the DM preference is incorporated. Further, to minimize the interaction cost with the DM, we also propose an active learning strategy for the preference estimation. We empirically demonstrate the effectiveness of our proposed method through the benchmark function optimization and the hyper-parameter optimization problems for machine learning models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google