Online Bilevel Optimization: Regret Analysis of Online Alternating Gradient Methods

要約

この論文では、時間とともに変化する一連の 2 レベル問題が次々と明らかにされる \textit{オンライン 2 レベル最適化} 設定を紹介します。
シングルレベル オンライン アルゴリズムの既知のリグレス限界を 2 レベル設定に拡張します。
具体的には、 \textit{bilevel respecting} の新しい概念を提供し、滑らかさを活用できるオンライン交互時間平均勾配法を開発し、内側と外側のミニマイザー シーケンスの経路長に関してリグレス限界を与えます。

要約(オリジナル)

This paper introduces an \textit{online bilevel optimization} setting in which a sequence of time-varying bilevel problems are revealed one after the other. We extend the known regret bounds for single-level online algorithms to the bilevel setting. Specifically, we provide new notions of \textit{bilevel regret}, develop an online alternating time-averaged gradient method that is capable of leveraging smoothness, and give regret bounds in terms of the path-length of the inner and outer minimizer sequences.

arxiv情報

著者 Davoud Ataee Tarzanagh,Parvin Nazari,Bojian Hou,Li Shen,Laura Balzano
発行日 2024-01-23 14:00:54+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.DS, cs.LG, math.OC パーマリンク