Avoiding strict saddle points of nonconvex regularized problems

要約

$\ell_p$ 正規化関数に厳密なサドル プロパティを導入し、$\ell_p$ 正規化問題を解決する反復再重み付け $\ell_1$ アルゴリズムを提案します。
このアルゴリズムは、ランダムに初期化された場合、ローカル ミニマイザーにのみ収束することが保証されています。
厳密なサドル プロパティは、これらのスパース最適化問題では一般的に示されています。
これらの分析と提案されたアルゴリズムは、一般的な非凸の正則化問題に簡単に拡張できます。

要約(オリジナル)

We introduce a strict saddle property for $\ell_p$ regularized functions, and propose an iterative reweighted $\ell_1$ algorithm to solve the $\ell_p$ regularized problems. The algorithm is guaranteed to converge only to local minimizers when randomly initialized. The strict saddle property is shown generic on these sparse optimization problems. Those analyses as well as the proposed algorithm can be easily extended to general nonconvex regularized problems.

arxiv情報

著者 Luwei Bai
発行日 2024-01-17 15:25:50+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, math.OC パーマリンク