Convergence of the Chambolle-Pock Algorithm in the Absence of Monotonicity

要約

Chambolle-Pock アルゴリズム (CPA) は、主双対ハイブリッド勾配法としても知られ、大規模な凸構造問題の解決に成功したため、過去 10 年間で人気が高まりました。
この研究は、関連する主双対演算子に対するいわゆる斜めの弱い Minty 条件を通じて定量化された、さまざまな程度の (非) 単調性を伴う問題の収束解析を拡張します。
私たちの結果は、線形マッピングのノルムだけでなく、他の特異値にも依存する新しいステップサイズと緩和パラメータ範囲を明らかにしました。
特に、非単調設定では、古典的なステップサイズ条件に加えて、ステップサイズと緩和パラメータに対する追加の境界が必要です。
一方、非常に単調な設定では、緩和パラメーターは古典的な上限である 2 を超えることが許可されます。
さらに、最近導入されたクラスの半単調演算子を基にして、個々の演算子が半単調である場合に CPA に十分な収束条件を提供します。
このクラスの演算子は、(hypo)-monotone 演算子や co(hypo)-monotone 演算子を含む従来の演算子クラスを包含するため、この分析は CPA の既存の結果を回復および拡張します。
提案されたステップサイズの範囲が厳密であることを、いくつかの例を通じて示します。

要約(オリジナル)

The Chambolle-Pock algorithm (CPA), also known as the primal-dual hybrid gradient method, has gained popularity over the last decade due to its success in solving large-scale convex structured problems. This work extends its convergence analysis for problems with varying degrees of (non)monotonicity, quantified through a so-called oblique weak Minty condition on the associated primal-dual operator. Our results reveal novel stepsize and relaxation parameter ranges which do not only depend on the norm of the linear mapping, but also on its other singular values. In particular, in nonmonotone settings, in addition to the classical stepsize conditions, extra bounds on the stepsizes and relaxation parameters are required. On the other hand, in the strongly monotone setting, the relaxation parameter is allowed to exceed the classical upper bound of two. Moreover, we build upon the recently introduced class of semimonotone operators, providing sufficient convergence conditions for CPA when the individual operators are semimonotone. Since this class of operators encompasses traditional operator classes including (hypo)- and co(hypo)-monotone operators, this analysis recovers and extends existing results for CPA. Tightness of the proposed stepsize ranges is demonstrated through several examples.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google