Multiplicative Updates for Online Convex Optimization over Symmetric Cones

要約

私たちは、可能なアクションが対称円錐内のトレース 1 要素であるオンライン凸最適化を研究し、広範囲に研究された専門家のセットアップとその量子対応物を一般化します。
対称円錐は、線形最適化、二次円錐最適化、半定値最適化など、いくつかの最も重要な最適化モデルに統一フレームワークを提供します。
ユークリッド ジョルダン代数の分野のツールを使用して、任意の対称円錐のトレース 1 スライスに対するオンライン最適化のための射影のないアルゴリズムである対称円錐乗算重み更新 (SCMWU) を導入します。
我々は、SCMWUが正則化子として対称円錐負のエントロピーを使用したFollow-the- Regularized-LeaderおよびOnline Mirror Descentと同等であることを示します。
この構造結果を使用して、SCMWU が後悔のないアルゴリズムであることを示し、広範な実験で理論的結果を検証します。
私たちの結果は、確率単体に対する乗算重み更新法の分析と、密度行列のセットに対する行列乗算重み更新法の分析を統合し、一般化します。

要約(オリジナル)

We study online convex optimization where the possible actions are trace-one elements in a symmetric cone, generalizing the extensively-studied experts setup and its quantum counterpart. Symmetric cones provide a unifying framework for some of the most important optimization models, including linear, second-order cone, and semidefinite optimization. Using tools from the field of Euclidean Jordan Algebras, we introduce the Symmetric-Cone Multiplicative Weights Update (SCMWU), a projection-free algorithm for online optimization over the trace-one slice of an arbitrary symmetric cone. We show that SCMWU is equivalent to Follow-the-Regularized-Leader and Online Mirror Descent with symmetric-cone negative entropy as regularizer. Using this structural result we show that SCMWU is a no-regret algorithm, and verify our theoretical results with extensive experiments. Our results unify and generalize the analysis for the Multiplicative Weights Update method over the probability simplex and the Matrix Multiplicative Weights Update method over the set of density matrices.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google