CO-BED: Information-Theoretic Contextual Optimization via Bayesian Experimental Design

要約

ベイジアン実験計画のレンズを通してコンテキスト最適化の問題を形式化し、情報理論の原則を使用してコンテキスト実験を設計するための一般的なモデルに依存しないフレームワークである CO-BED を提案します。
適切な情報ベースの目標を定式化した後、ブラック ボックスの変分法を使用して、それを同時に推定し、単一の確率的勾配スキームで設計を最適化します。
さらに、緩和スキームを導入して、個別のアクションに対応できるようにします。
その結果、CO-BED は、幅広いコンテキスト最適化問題に対する一般的で自動化されたソリューションを提供します。
特注のモデル固有の代替品と比較した場合でも、CO-BED が競争力のあるパフォーマンスを示す多くの実験でその有効性を示しています。

要約(オリジナル)

We formalize the problem of contextual optimization through the lens of Bayesian experimental design and propose CO-BED — a general, model-agnostic framework for designing contextual experiments using information-theoretic principles. After formulating a suitable information-based objective, we employ black-box variational methods to simultaneously estimate it and optimize the designs in a single stochastic gradient scheme. We further introduce a relaxation scheme to allow discrete actions to be accommodated. As a result, CO-BED provides a general and automated solution to a wide range of contextual optimization problems. We illustrate its effectiveness in a number of experiments, where CO-BED demonstrates competitive performance even when compared to bespoke, model-specific alternatives.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google