Online Convex Optimization and Integral Quadratic Constraints: A new approach to regret analysis

要約

強く凸状およびLipschitz-Smoothの目的のための1次制限されたオンライン凸最適化アルゴリズムの動的後悔を分析するための新しいアプローチを提案します。
重要なことに、1次オラクルとのフィードバックにおける線形動的システムの相互接続として表現できる幅広い1次アルゴリズムに適用できる一般的な分析を提供します。
積分の二次制約（IQCS）を活用することにより、オンラインアルゴリズムの後悔保証を提供できる半定義プログラムを導き出します。
このため、分散IQCの概念は、時間変化の単調な演算子へのIQCの一般化として導入されています。
私たちの境界は、時間変化のミニマイザーと目的関数の変動のパス長の形で、問題の時間的変化速度をキャプチャします。
OCOの標準的な結果とは対照的に、我々の結果は、勾配の境界の仮定や境界のある実行可能なセットの仮定を必要としません。
数値分析では、機能クラスの条件番号に対する後悔の依存性をキャプチャするアプローチの能力を示しています。

要約(オリジナル)

We propose a novel approach for analyzing dynamic regret of first-order constrained online convex optimization algorithms for strongly convex and Lipschitz-smooth objectives. Crucially, we provide a general analysis that is applicable to a wide range of first-order algorithms that can be expressed as an interconnection of a linear dynamical system in feedback with a first-order oracle. By leveraging Integral Quadratic Constraints (IQCs), we derive a semi-definite program which, when feasible, provides a regret guarantee for the online algorithm. For this, the concept of variational IQCs is introduced as the generalization of IQCs to time-varying monotone operators. Our bounds capture the temporal rate of change of the problem in the form of the path length of the time-varying minimizer and the objective function variation. In contrast to standard results in OCO, our results do not require nerither the assumption of gradient boundedness, nor that of a bounded feasible set. Numerical analyses showcase the ability of the approach to capture the dependence of the regret on the function class condition number.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google