Doubly Smoothed GDA: Global Convergent Algorithm for Constrained Nonconvex-Nonconcave Minimax Optimization

要約

非凸非凹ミニマックス最適化は、機械学習における広範な応用により、過去 10 年間にわたって強い注目を集めてきました。
残念ながら、既存のアルゴリズムのほとんどはグローバルに収束することを保証できず、リミット サイクルに悩まされることさえあります。
この問題に対処するために、我々は二重平滑化勾配降下法 (DSGDA) と呼ばれる新しい単一ループ アルゴリズムを提案します。これは主更新と二重更新のバランスを自然にとります。
提案された DSGDA は、Forsaken、双線形結合ミニマックス、6 次多項式、PolarGame など、文献にあるさまざまな困難な非凸非凹の例でリミット サイクルを取り除くことができます。
さらに、指数 $\theta\in(0,1)$ (それぞれ凸主関数/凹双対関数) を持つ片側 Kurdyka-\L{}ojasiewicz 条件の下で、DSGDA が次の式でゲーム定常点を見つけられることを示します。
反復計算量 $\mathcal{O}(\epsilon^{-2\max\{2\theta,1\}})$ (それぞれ $\mathcal{O}(\epsilon^{-4})$
）。
これらは、非凸-凹または凸-非凹のミニマックス問題、またはかなり制限的な片側 Polyak-\L{}ojasiewicz 条件を満たす問題を解決する単一ループ アルゴリズムの最良の結果と一致します。
私たちの研究は、非凸-非凹、非凸-凹、および凸-非凹のミニマックス問題を解決するための、シンプルで統一された単一ループ アルゴリズムの可能性を初めて実証しました。

要約(オリジナル)

Nonconvex-nonconcave minimax optimization has received intense attention over the last decade due to its broad applications in machine learning. Unfortunately, most existing algorithms cannot be guaranteed to converge globally and even suffer from limit cycles. To address this issue, we propose a novel single-loop algorithm called doubly smoothed gradient descent ascent method (DSGDA), which naturally balances the primal and dual updates. The proposed DSGDA can get rid of limit cycles in various challenging nonconvex-nonconcave examples in the literature, including Forsaken, Bilinearly-coupled minimax, Sixth-order polynomial, and PolarGame. We further show that under an one-sided Kurdyka-\L{}ojasiewicz condition with exponent $\theta\in(0,1)$ (resp. convex primal/concave dual function), DSGDA can find a game-stationary point with an iteration complexity of $\mathcal{O}(\epsilon^{-2\max\{2\theta,1\}})$ (resp. $\mathcal{O}(\epsilon^{-4})$). These match the best results for single-loop algorithms that solve nonconvex-concave or convex-nonconcave minimax problems, or problems satisfying the rather restrictive one-sided Polyak-\L{}ojasiewicz condition. Our work demonstrates, for the first time, the possibility of having a simple and unified single-loop algorithm for solving nonconvex-nonconcave, nonconvex-concave, and convex-nonconcave minimax problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google