Entrywise error bounds for low-rank approximations of kernel matrices

要約

この論文では、切り捨てられた固有値分解 (または特異値分解) を使用して取得されたカーネル行列の低ランク近似のエントリワイズ誤差限界を導出します。
この近似はスペクトル誤差とフロベニウス ノルム誤差に関して最適であることはよく知られていますが、個々のエントリの統計的動作についてはほとんど知られていません。
私たちの誤差限界はこのギャップを埋めます。
重要な技術革新は、ランダム行列理論の分野からインスピレーションを得た、小さな固有値に対応するカーネル行列の固有ベクトルの非局在化結果です。
最後に、合成データセットと現実世界のデータセットのコレクションの実証研究によって理論を検証します。

要約(オリジナル)

In this paper, we derive entrywise error bounds for low-rank approximations of kernel matrices obtained using the truncated eigen-decomposition (or singular value decomposition). While this approximation is well-known to be optimal with respect to the spectral and Frobenius norm error, little is known about the statistical behaviour of individual entries. Our error bounds fill this gap. A key technical innovation is a delocalisation result for the eigenvectors of the kernel matrix corresponding to small eigenvalues, which takes inspiration from the field of Random Matrix Theory. Finally, we validate our theory with an empirical study of a collection of synthetic and real-world datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google