Extrapolation-based Prediction-Correction Methods for Time-varying Convex Optimization

要約

【タイトル】時間変化する凸最適化に対する外挿ベースの予測修正法

【要約】

-オンライン最適化問題の解決方法に焦点を当てる。
-信号処理や機械学習にしばしば現れるストリーミングデータへのアクセスを持つオンライン最適化アルゴリズムについて議論する。
-プライマリとデュアル空間の両方に基づく予測修正パラダイムに基づくオンライン最適化アルゴリズムを説明する。
-多くの信号処理問題で現れる典型的な正則化された最小二乗構造を利用して、新しい予測戦略「外挿ベース」を提案する。
-オペレータ理論のツールを使用して、提案されたメソッドのプライマリおよびデュアル問題への適用に対する収束性を分析し、追跡誤差の明示的なバウンド（時間変化する最適解からの距離）を導出する。
-信号処理、機械学習、ロボット問題に適用した場合のアルゴリズムの経験的なパフォーマンスについて説明する。

要約(オリジナル)

In this paper, we focus on the solution of online optimization problems that arise often in signal processing and machine learning, in which we have access to streaming sources of data. We discuss algorithms for online optimization based on the prediction-correction paradigm, both in the primal and dual space. In particular, we leverage the typical regularized least-squares structure appearing in many signal processing problems to propose a novel and tailored prediction strategy, which we call extrapolation-based. By using tools from operator theory, we then analyze the convergence of the proposed methods as applied both to primal and dual problems, deriving an explicit bound for the tracking error, that is, the distance from the time-varying optimal solution. We further discuss the empirical performance of the algorithm when applied to signal processing, machine learning, and robotics problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI