Structured Semidefinite Programming for Recovering Structured Preconditioners

要約

線形システムを解くためのほぼ最適な前処理を見つけるための一般的なフレームワークを開発します。
このフレームワークを活用することで、基本的な事前調整と次のような問題を解決する線形システムの実行時間が向上します。
$\mathrm{nnz}(\mathbf{K})$ 非ゼロエントリを持つ正定値 $\mathbf{K} \in \mathbb{R}^{d \times d}$ が与えられた場合に、 を計算するアルゴリズムを与えます。
$\epsilon$-時間内の最適対角前処理 $\widetilde{O}(\mathrm{nnz}(\mathbf{K}) \cdot \mathrm{poly}(\kappa^\star,\epsilon^{-1}
))$、ここで $\kappa^\star$ は再スケーリングされた行列の最適条件数です。
$\mathbf{M} \in \mathbb{R}^{d \times d}$ が与えられると、グラフのラプラシアン行列の擬似逆行列または 1 の定数スペクトル近似のいずれかであり、次の線形システムを解くアルゴリズムを与えます。
$\widetilde{O}(d^2)$ 時間で $\mathbf{M}$ になります。
対角線前処理の結果は、汎用の半定値計画法によって達成される $\Omega(d^{3.5})$ の最先端の実行時間を改善し、ソルバーは $\Omega(
d^{\omega})$ ここで、$\omega > 2.3$ は現在の行列乗算定数です。
私たちは、行列辞書近似 SDP と呼ぶ半定値プログラム (SDP) のクラスの新しいアルゴリズムを介して結果を取得します。これは、行列辞書回復と呼ばれる関連する問題を解決するために利用されます。

要約(オリジナル)

We develop a general framework for finding approximately-optimal preconditioners for solving linear systems. Leveraging this framework we obtain improved runtimes for fundamental preconditioning and linear system solving problems including the following. We give an algorithm which, given positive definite $\mathbf{K} \in \mathbb{R}^{d \times d}$ with $\mathrm{nnz}(\mathbf{K})$ nonzero entries, computes an $\epsilon$-optimal diagonal preconditioner in time $\widetilde{O}(\mathrm{nnz}(\mathbf{K}) \cdot \mathrm{poly}(\kappa^\star,\epsilon^{-1}))$, where $\kappa^\star$ is the optimal condition number of the rescaled matrix. We give an algorithm which, given $\mathbf{M} \in \mathbb{R}^{d \times d}$ that is either the pseudoinverse of a graph Laplacian matrix or a constant spectral approximation of one, solves linear systems in $\mathbf{M}$ in $\widetilde{O}(d^2)$ time. Our diagonal preconditioning results improve state-of-the-art runtimes of $\Omega(d^{3.5})$ attained by general-purpose semidefinite programming, and our solvers improve state-of-the-art runtimes of $\Omega(d^{\omega})$ where $\omega > 2.3$ is the current matrix multiplication constant. We attain our results via new algorithms for a class of semidefinite programs (SDPs) we call matrix-dictionary approximation SDPs, which we leverage to solve an associated problem we call matrix-dictionary recovery.

arxiv情報

著者 Arun Jambulapati,Jerry Li,Christopher Musco,Kirankumar Shiragur,Aaron Sidford,Kevin Tian
発行日 2023-10-27 16:54:29+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.DS, cs.LG, math.OC, stat.ML パーマリンク