Global Optimisation of Black-Box Functions with Generative Models in the Wasserstein Space

要約

我々は、深い生成サロゲートモデルを使用したブラックボックスシミュレータの勾配のない最適化のための新しい不確実性推定器を提案します。
これらのシミュレータの最適化は、確率的シミュレータや高次元のシミュレータでは特に困難です。
これらの問題に対処するために、私たちはディープジェネレーティブサロゲートアプローチを利用して、パラメーター空間全体のブラックボックス応答をモデル化します。
次に、この知識を活用して、ワッサーシュタイン距離に基づいて提案された不確実性、つまりワッサーシュタインの不確実性を推定します。
このアプローチは、パラメータ空間全体にわたるリグレスを最小限に抑える事後不可知勾配フリー最適化アルゴリズムで採用されています。
一連のテストは、私たちの方法が、深いガウス分布による効率的なグローバル最適化などの最先端の方法よりも、ブラック ボックス関数とブラック ボックスの確率的応答の両方の形状に対してより堅牢であることを実証するために実施されました。
プロセスの代理。

要約(オリジナル)

We propose a new uncertainty estimator for gradient-free optimisation of black-box simulators using deep generative surrogate models. Optimisation of these simulators is especially challenging for stochastic simulators and higher dimensions. To address these issues, we utilise a deep generative surrogate approach to model the black box response for the entire parameter space. We then leverage this knowledge to estimate the proposed uncertainty based on the Wasserstein distance – the Wasserstein uncertainty. This approach is employed in a posterior agnostic gradient-free optimisation algorithm that minimises regret over the entire parameter space. A series of tests were conducted to demonstrate that our method is more robust to the shape of both the black box function and the stochastic response of the black box than state-of-the-art methods, such as efficient global optimisation with a deep Gaussian process surrogate.

arxiv情報

著者 Tigran Ramazyan,Mikhail Hushchyn,Denis Derkach
発行日 2024-08-14 14:46:32+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, hep-ex, physics.data-an, stat.ML パーマリンク