Incremental Gauss–Newton Methods with Superlinear Convergence Rates

要約

本論文では、H’old連続ヤコビアンを持つ大規模非線形方程式を解くという課題に取り組む。我々は、線形収束率しか達成できない既存の方法を凌駕する、明示的な超線形収束率を持つ新しいインクリメンタルガウス・ニュートン(IGN)法を紹介する。特に、有限和構造を持つ非線形最小二乗法で問題を定式化し、各ラウンドで1つの成分の情報を用いてインクリメンタルな反復を行う。また、我々のIGN法のミニバッチ拡張を提供し、さらに高速な超線形収束率を得る。さらに、数値実験を行い、提案手法の利点を示す。

要約(オリジナル)

This paper addresses the challenge of solving large-scale nonlinear equations with H\’older continuous Jacobians. We introduce a novel Incremental Gauss–Newton (IGN) method within explicit superlinear convergence rate, which outperforms existing methods that only achieve linear convergence rate. In particular, we formulate our problem by the nonlinear least squares with finite-sum structure, and our method incrementally iterates with the information of one component in each round. We also provide a mini-batch extension to our IGN method that obtains an even faster superlinear convergence rate. Furthermore, we conduct numerical experiments to show the advantages of the proposed methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL