Learning to Solve Related Linear Systems

要約

複数のパラメータ化された関連システムを解決することは、多くの数値タスクの重要なコンポーネントです。
解決されたシステムと学習から強度を借りると、このプロセスがより速くなります。
この作業では、パラメーター空間上に新しい確率的線形ソルバーを提案します。
これにより、回帰設定で解決された線形システムからの情報を活用して、効率的な後方平均と共分散を提供します。
これを、前処理されたコンジュゲート勾配法のコンパニオン回帰モデルとして使用することを提唱し、後部平均と共分散の好ましい特性と初期の推測と前処理者として議論します。
また、このコンパニオンソルバーにいくつかのデザインの選択肢を提供しています。
数値実験は、ハイパーパラメーターの最適化問題で新しいソルバーを使用することの利点を示しています。

要約(オリジナル)

Solving multiple parametrised related systems is an essential component of many numerical tasks. Borrowing strength from the solved systems and learning will make this process faster. In this work, we propose a novel probabilistic linear solver over the parameter space. This leverages information from the solved linear systems in a regression setting to provide an efficient posterior mean and covariance. We advocate using this as companion regression model for the preconditioned conjugate gradient method, and discuss the favourable properties of the posterior mean and covariance as the initial guess and preconditioner. We also provide several design choices for this companion solver. Numerical experiments showcase the benefits of using our novel solver in a hyperparameter optimisation problem.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google