Event-Triggered Time-Varying Bayesian Optimization

要約

時変ベイジアン最適化 (TVBO) を使用して、時変目的関数を逐次最適化する問題を検討します。
ここでの重要な課題は、時間変動の下での探索と活用のトレードオフです。
TVBO に対する現在のアプローチでは、一定の変化率についての事前の知識が必要です。
ただし、実際には、変化率は通常不明です。
我々は、オンラインで目的関数の変化を検出してデータセットをリセットするまで、最適化問題を静的として扱うイベントトリガーアルゴリズム ET-GP-UCB を提案します。
これにより、事前知識を必要とせずに、アルゴリズムが現実の時間的変化に適応できるようになります。
イベント トリガーは、ガウス過程回帰で使用される確率的一様誤差限界に基づいています。
ET-GP-UCB にリグレス限界を提供し、合成データと現実世界のデータに対して最先端のアルゴリズムを上回るパフォーマンスを数値実験で示します。
さらに、これらの結果は、ET-GP-UCB がハイパーパラメーターを調整せずにさまざまな設定に容易に適用できることを示しています。

要約(オリジナル)

We consider the problem of sequentially optimizing a time-varying objective function using time-varying Bayesian optimization (TVBO). Here, the key challenge is the exploration-exploitation trade-off under time variations. Current approaches to TVBO require prior knowledge of a constant rate of change. However, in practice, the rate of change is usually unknown. We propose an event-triggered algorithm, ET-GP-UCB, that treats the optimization problem as static until it detects changes in the objective function online and then resets the dataset. This allows the algorithm to adapt to realized temporal changes without the need for prior knowledge. The event-trigger is based on probabilistic uniform error bounds used in Gaussian process regression. We provide regret bounds for ET-GP-UCB and show in numerical experiments that it outperforms state-of-the-art algorithms on synthetic and real-world data. Furthermore, these results demonstrate that ET-GP-UCB is readily applicable to various settings without tuning hyperparameters.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google