Model-based Causal Bayesian Optimization

要約

関心のある下流変数を最大化するために、未知の構造方程式モデルにどのように介入する必要がありますか?
この設定は、因果ベイジアン最適化 (CBO) とも呼ばれ、医療、生態学、製造において重要な用途があります。
標準的なベイジアン最適化アルゴリズムでは、根底にある因果構造を効果的に活用できません。
既存の CBO アプローチはノイズのない測定を前提としており、保証はありません。
介入と報酬のペアのみをモデル化するのではなく、完全なシステム モデルを学習するモデル ベースの因果関係ベイジアン最適化アルゴリズム (MCBO) を提案します。
MCBO は、グラフを介して因果メカニズムに関する認識論的不確実性を伝播し、楽観原理を介して探索と利用をトレードオフします。
その累積的な後悔を制限し、CBO の最初の非漸近的境界を取得します。
標準のベイジアン最適化とは異なり、取得関数は閉じた形で評価できないため、再パラメータ化のトリックを使用して勾配ベースのオプティマイザーを適用する方法を示します。
結果として得られる MCBO の実用的な実装は、経験的に最先端のアプローチに匹敵します。

要約(オリジナル)

How should we intervene on an unknown structural equation model to maximize a downstream variable of interest? This setting, also known as causal Bayesian optimization (CBO), has important applications in medicine, ecology, and manufacturing. Standard Bayesian optimization algorithms fail to effectively leverage the underlying causal structure. Existing CBO approaches assume noiseless measurements and do not come with guarantees. We propose the model-based causal Bayesian optimization algorithm (MCBO) that learns a full system model instead of only modeling intervention-reward pairs. MCBO propagates epistemic uncertainty about the causal mechanisms through the graph and trades off exploration and exploitation via the optimism principle. We bound its cumulative regret, and obtain the first non-asymptotic bounds for CBO. Unlike in standard Bayesian optimization, our acquisition function cannot be evaluated in closed form, so we show how the reparameterization trick can be used to apply gradient-based optimizers. The resulting practical implementation of MCBO compares favorably with state-of-the-art approaches empirically.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google