Tighter Lower Bounds for Shuffling SGD: Random Permutations and Beyond

要約

滑らかな (強く) 凸の有限和最小化問題を解くための置換なし確率的勾配降下法 (SGD) の収束下限を研究します。
コンポーネントの数 $n$ とエポックの数 $K$ の観点から最終的な反復の下限に焦点を当てたほとんどの既存の結果とは異なり、条件数 $\kappa を含むすべての要因でタイトな任意の加重平均反復の境界を求めます
$.
Random Reshuffle を使用する SGD の場合、既存の境界よりも $\kappa$ の依存関係が厳しい下限を提示します。
私たちの結果は、強凸ケースと凸ケースの両方で加重平均反復の下限と上限の間のギャップを完全に埋めた最初の結果です。
また、任意の順列ベースの SGD の加重平均反復下限を証明します。これは、最良の順列を慎重に選択するすべてのバリアントに適用されます。
私たちの境界は、既存の境界を $n$ と $\kappa$ の因数で改善するため、GraB と呼ばれる最近提案されたアルゴリズムで示された上限と一致します。

要約(オリジナル)

We study convergence lower bounds of without-replacement stochastic gradient descent (SGD) for solving smooth (strongly-)convex finite-sum minimization problems. Unlike most existing results focusing on final iterate lower bounds in terms of the number of components $n$ and the number of epochs $K$, we seek bounds for arbitrary weighted average iterates that are tight in all factors including the condition number $\kappa$. For SGD with Random Reshuffling, we present lower bounds that have tighter $\kappa$ dependencies than existing bounds. Our results are the first to perfectly close the gap between lower and upper bounds for weighted average iterates in both strongly-convex and convex cases. We also prove weighted average iterate lower bounds for arbitrary permutation-based SGD, which apply to all variants that carefully choose the best permutation. Our bounds improve the existing bounds in factors of $n$ and $\kappa$ and thereby match the upper bounds shown for a recently proposed algorithm called GraB.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google