Follow The Approximate Sparse Leader for No-Regret Online Sparse Linear Approximation

要約

\textit{オンライン スパース線形近似} の問題を検討します。この問題では、指定された測定行列の列の線形結合に関して、一連の測定値の最良のスパース近似を予測します。
このようなオンライン予測の問題は、医療試験から Web キャッシュ、リソース割り当てに至るまで、いたるところに存在します。
オフラインでの回復には固有の困難があるため、オンラインの問題も困難になります。
このレターでは、このオンライン問題に対処するための効率的なオンライン メタ ポリシーである Follow-The-About-Sparse-Leader を提案します。
詳細な理論分析を通じて、測定シーケンスに関する特定の仮定の下で、提案されたポリシーが静的リグレスに関するデータ依存のサブリニア上限（対数から平方根までの範囲）を享受できることを証明します。
理論的発見を裏付け、提案されたオンライン ポリシーの有効性を実証するために、数値シミュレーションが実行されます。

要約(オリジナル)

We consider the problem of \textit{online sparse linear approximation}, where one predicts the best sparse approximation of a sequence of measurements in terms of linear combination of columns of a given measurement matrix. Such online prediction problems are ubiquitous, ranging from medical trials to web caching to resource allocation. The inherent difficulty of offline recovery also makes the online problem challenging. In this letter, we propose Follow-The-Approximate-Sparse-Leader, an efficient online meta-policy to address this online problem. Through a detailed theoretical analysis, we prove that under certain assumptions on the measurement sequence, the proposed policy enjoys a data-dependent sublinear upper bound on the static regret, which can range from logarithmic to square-root. Numerical simulations are performed to corroborate the theoretical findings and demonstrate the efficacy of the proposed online policy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google