A Stability Principle for Learning under Non-Stationarity

要約

非定常環境での統計学習のための汎用性の高いフレームワークを開発します。
各期間において、私たちのアプローチは安定性の原理を適用して、累積データの利用を最大化しながら、累積バイアスを確率的誤差と比較して許容範囲内に保持します。
私たちの理論と数値実験は、このアプローチの未知の非定常性への適応性を示しています。
母集団の損失が強く凸状である場合、またはLipschitzのみである場合、対数因子まで最適な最適な後悔の範囲を証明します。
分析の中心には、2つの新しいコンポーネントがあります。機能と、非定常データシーケンスを準定常断片に分割するためのセグメンテーション手法の類似性の尺度です。

要約(オリジナル)

We develop a versatile framework for statistical learning in non-stationary environments. In each time period, our approach applies a stability principle to select a look-back window that maximizes the utilization of historical data while keeping the cumulative bias within an acceptable range relative to the stochastic error. Our theory and numerical experiments showcase the adaptivity of this approach to unknown non-stationarity. We prove regret bounds that are minimax optimal up to logarithmic factors when the population losses are strongly convex, or Lipschitz only. At the heart of our analysis lie two novel components: a measure of similarity between functions and a segmentation technique for dividing the non-stationary data sequence into quasi-stationary pieces.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google