Efficient Federated Low Rank Matrix Completion

要約

この作業では、フェデレーテッド設定で低ランク行列補完 (LRMC) を効率的に解くための、交互 GD と最小化 (AltGDmin) と呼ばれる勾配降下法 (GD) ベースのソリューションを開発および分析します。
LRMC では、$r \ll \min(n,q)$ のとき、エントリのサブセットから $n \times q$ Rank-$r$ 行列 $\Xstar$ を復元します。
理論的な保証 (反復およびサンプルの複雑さの限界) は、AltGDmin がフェデレーテッド設定で最も通信効率の高いソリューションであり、最速のソリューションの 1 つであり、LRMC に対するすべての反復ソリューションの中で 2 番目に優れたサンプル複雑性を備えていることを意味します。
さらに、2 つの重要な結果も証明します。
(a) ノイズの多い LRMC 問題を解決するための AltGDmin の保証を提供します。
(b) 補題を使用して、最速の集中ソリューションである AltMin のサンプル複雑さの保証を改善する方法を示します。

要約(オリジナル)

In this work, we develop and analyze a Gradient Descent (GD) based solution, called Alternating GD and Minimization (AltGDmin), for efficiently solving the low rank matrix completion (LRMC) in a federated setting. LRMC involves recovering an $n \times q$ rank-$r$ matrix $\Xstar$ from a subset of its entries when $r \ll \min(n,q)$. Our theoretical guarantees (iteration and sample complexity bounds) imply that AltGDmin is the most communication-efficient solution in a federated setting, is one of the fastest, and has the second best sample complexity among all iterative solutions to LRMC. In addition, we also prove two important corollaries. (a) We provide a guarantee for AltGDmin for solving the noisy LRMC problem. (b) We show how our lemmas can be used to provide an improved sample complexity guarantee for AltMin, which is the fastest centralized solution.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google