Fast Tensor Completion via Approximate Richardson Iteration

要約

低ランクテンソル分解（TD）のレンズを介してテンソル完成（TC）を研究します。
多くのTDアルゴリズムは、高速の交互の最小化方法を使用します。これは、各ステップで高度に構造化された線形回帰問題を解決します（例：CP、タッカー、テンソルトレイン分解など）。
ただし、このような代数構造はTC回帰問題で失われ、直接拡張が不明確になります。
これに対処するために、構造化されたTD回帰​​アルゴリズムをBlackboxサブルーチンとして使用してTC回帰問題をほぼ解決するリフティングアプローチを提案し、サブリンタイム方法を可能にします。
おおよそのリチャードソンイテレーションベースのアルゴリズムの収束率を理論的に分析し、実際のテンサでは、実行時間がCP完了の直接的な方法よりも100倍高速になる可能性があることを示しています。

要約(オリジナル)

We study tensor completion (TC) through the lens of low-rank tensor decomposition (TD). Many TD algorithms use fast alternating minimization methods, which solve highly structured linear regression problems at each step (e.g., for CP, Tucker, and tensor-train decompositions). However, such algebraic structure is lost in TC regression problems, making direct extensions unclear. To address this, we propose a lifting approach that approximately solves TC regression problems using structured TD regression algorithms as blackbox subroutines, enabling sublinear-time methods. We theoretically analyze the convergence rate of our approximate Richardson iteration based algorithm, and we demonstrate on real-world tensors that its running time can be 100x faster than direct methods for CP completion.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google