A Newton-CG based barrier-augmented Lagrangian method for general nonconvex conic optimization

要約

この論文では、非線形等式制約と凸円錐制約の対象となる 2 回微分可能関数を最小化する一般的な非凸円錐最適化の近似二次定常点 (SOSP) を見つけることを検討します。
特に、この問題の近似 SOSP を見つけるためのニュートン共役勾配 (Newton-CG) ベースのバリア拡張ラグランジュ法を提案します。
いくつかの穏やかな仮定の下で、私たちの方法は $\widetilde{\cal O}(\epsilon^{-11/2})$ の内部反復の複雑さの合計と $\widetilde{\cal O} の演算の複雑さを享受できることを示します。
一般非凸の $(\epsilon,\sqrt{\epsilon})$-SOSP を見つけるための (\epsilon^{-11/2}\min\{n,\epsilon^{-5/4}\})$
高確率で円錐最適化。
さらに、制約修飾の下では、これらの複雑さの境界は $\widetilde{\cal O}(\epsilon^{-7/2})$ および $\widetilde{\cal O}(\epsilon^{-7/) に改善されます。
それぞれ 2}\min\{n,\epsilon^{-3/4}\})$。
私たちの知る限り、これは一般的な非凸円錐最適化の近似 SOSP を見つける複雑さに関する最初の研究です。
解の品質の点で、提案された方法が一次方法よりも優れていることを実証するために、予備的な数値結果が提示されます。

要約(オリジナル)

In this paper we consider finding an approximate second-order stationary point (SOSP) of general nonconvex conic optimization that minimizes a twice differentiable function subject to nonlinear equality constraints and also a convex conic constraint. In particular, we propose a Newton-conjugate gradient (Newton-CG) based barrier-augmented Lagrangian method for finding an approximate SOSP of this problem. Under some mild assumptions, we show that our method enjoys a total inner iteration complexity of $\widetilde{\cal O}(\epsilon^{-11/2})$ and an operation complexity of $\widetilde{\cal O}(\epsilon^{-11/2}\min\{n,\epsilon^{-5/4}\})$ for finding an $(\epsilon,\sqrt{\epsilon})$-SOSP of general nonconvex conic optimization with high probability. Moreover, under a constraint qualification, these complexity bounds are improved to $\widetilde{\cal O}(\epsilon^{-7/2})$ and $\widetilde{\cal O}(\epsilon^{-7/2}\min\{n,\epsilon^{-3/4}\})$, respectively. To the best of our knowledge, this is the first study on the complexity of finding an approximate SOSP of general nonconvex conic optimization. Preliminary numerical results are presented to demonstrate superiority of the proposed method over first-order methods in terms of solution quality.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google