Quantum Algorithms for the Pathwise Lasso

要約

古典的なLARS（最小角度回帰）経路ごとのアルゴリズムに基づいて、$ \ ell_1 $ -PENALTYを備えた新しい量子高次元線形回帰アルゴリズムを提示します。
Lassoの利用可能な古典的なアルゴリズムと同様に、私たちの量子アルゴリズムは、ペナルティ用語が変化するにつれて完全な正則化パスを提供しますが、特定の条件下での反復ごとに2次速くなります。
各反復で結合時間を取得するために、d \ ‘urrおよびHoyer（arxiv’96）の単純な量子最小発見サブルーチンを使用することにより、機能$ d $の数の2次速度が可能です。
次に、この単純な量子アルゴリズムを改善し、ChenおよびDe Wolf（ICALP’23）からの近似量子最小発見サブルーチンを使用して、機能$ d $と観測数$ n $の数で2次速度を取得します。
そうするために、おおよその量子最小発見サブルーチンによって検索される結合時間をほぼ計算します。
もう1つの主な貢献として、KKT条件の近似バージョンと二重性ギャップを介して、LARSアルゴリズム（したがって量子アルゴリズム）がエラーに対して堅牢であることを証明します。
これは、結合時間がほぼ計算されている場合、ラッソコスト関数を小さなエラーまで最小限に抑えるパスを出力することを意味します。
さらに、観測がガウス分布からサンプリングされると、量子アルゴリズムの複雑さは$ n $に多分類的にのみ依存し、$ d $の2次改善を維持しながら、古典的なラースアルゴリズムよりも指数関数的に優れていることを示しています。
さらに、標準のLARSアルゴリズムから$ d $の線形スケーリングを提示するにもかかわらず、$ n $にポリロガリズム依存性を保持する量子アルゴリズムの定量化バージョンを提案します。
最後に、クラシックおよび量子ラッソアルゴリズムのクエリ下限を証明します。

要約(オリジナル)

We present a novel quantum high-dimensional linear regression algorithm with an $\ell_1$-penalty based on the classical LARS (Least Angle Regression) pathwise algorithm. Similarly to available classical algorithms for Lasso, our quantum algorithm provides the full regularisation path as the penalty term varies, but quadratically faster per iteration under specific conditions. A quadratic speedup on the number of features $d$ is possible by using the simple quantum minimum-finding subroutine from D\’urr and Hoyer (arXiv’96) in order to obtain the joining time at each iteration. We then improve upon this simple quantum algorithm and obtain a quadratic speedup both in the number of features $d$ and the number of observations $n$ by using the approximate quantum minimum-finding subroutine from Chen and de Wolf (ICALP’23). In order to do so, we approximately compute the joining times to be searched over by the approximate quantum minimum-finding subroutine. As another main contribution, we prove, via an approximate version of the KKT conditions and a duality gap, that the LARS algorithm (and therefore our quantum algorithm) is robust to errors. This means that it still outputs a path that minimises the Lasso cost function up to a small error if the joining times are only approximately computed. Furthermore, we show that, when the observations are sampled from a Gaussian distribution, our quantum algorithm’s complexity only depends polylogarithmically on $n$, exponentially better than the classical LARS algorithm, while keeping the quadratic improvement on $d$. Moreover, we propose a dequantised version of our quantum algorithm that also retains the polylogarithmic dependence on $n$, albeit presenting the linear scaling on $d$ from the standard LARS algorithm. Finally, we prove query lower bounds for classical and quantum Lasso algorithms.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google