Projection-Free Online Convex Optimization with Stochastic Constraints

要約

タイトル：確率的制約を持つ射影フリーオンライン凸最適化

要約：

– 本論文は、確率的制約を持つオンライン凸最適化の射影フリーアルゴリズムを開発した。
– オンライン凸最適化のために開発された射影フリーアルゴリズムを、長期的な制約がないオンライン凸最適化に使用できるオンラインプライマリデュアル射影フリーフレームワークを設計した。
– この一般的なテンプレートを使用して、さまざまな設定に対してサブリニアリグレットと制約違反の限界を導出した。
– さらに、損失関数と制約関数が滑らかな場合には、プライマルデュアル条件付き勾配法を開発し、$O(\sqrt{T})$のリグレットと$O(T^{3/4})$の制約違反を達成した。
– さらに、損失関数と制約関数が確率的であり、関連するオフライン確率的最適化問題に対して強い双対性が成立する場合、制約違反をリグレットと同じ漸近的成長に減らすことができることを証明した。

要約(オリジナル)

This paper develops projection-free algorithms for online convex optimization with stochastic constraints. We design an online primal-dual projection-free framework that can take any projection-free algorithms developed for online convex optimization with no long-term constraint. With this general template, we deduce sublinear regret and constraint violation bounds for various settings. Moreover, for the case where the loss and constraint functions are smooth, we develop a primal-dual conditional gradient method that achieves $O(\sqrt{T})$ regret and $O(T^{3/4})$ constraint violations. Furthermore, for the setting where the loss and constraint functions are stochastic and strong duality holds for the associated offline stochastic optimization problem, we prove that the constraint violation can be reduced to have the same asymptotic growth as the regret.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI