Matrix Completion with Graph Information: A Provable Nonconvex Optimization Approach

要約

変数間の相互関係を示すサイド情報としてグラフを使用したマトリックスの完了の問題を考慮します。
重要な課題は、マトリックスの回復を強化するためにグラフの類似性構造を活用することにあります。
主にグラフラプラシアンの正則化に基づいて既存のアプローチは、いくつかの制限に悩まされています。（1）長距離相関を見落としながら、隣接する変数間の類似性のみに焦点を当てています。
（2）それらはグラフ内の誤ったエッジに非常に敏感であり、（3）統計的および計算の複雑さに関する理論的保証がない。
これらの問題に対処するために、この論文では、前処理された勾配降下アプローチに基づいて、GSGDと呼ばれる新しいグラフの正規化されたマトリックス完了アルゴリズムを提案します。
GSGDは、グラフの背後にある高次相関情報を効果的にキャプチャし、誤ったエッジに対する優れた堅牢性と安定性を達成することを実証します。
理論的には、GSGDは、最適に近いサンプルの複雑さを備えたグローバルな最適への線形収束を達成し、非コンベックス最適化の観点での回復精度と有効性の両方に対する最初の理論的保証を提供することを証明します。
合成データと実世界の両方のデータに関する当社の数値実験では、GSGDがいくつかの一般的な選択肢と比較して優れた回復の精度とスケーラビリティを達成することをさらに検証します。

要約(オリジナル)

We consider the problem of matrix completion with graphs as side information depicting the interrelations between variables. The key challenge lies in leveraging the similarity structure of the graph to enhance matrix recovery. Existing approaches, primarily based on graph Laplacian regularization, suffer from several limitations: (1) they focus only on the similarity between neighboring variables, while overlooking long-range correlations; (2) they are highly sensitive to false edges in the graphs and (3) they lack theoretical guarantees regarding statistical and computational complexities. To address these issues, we propose in this paper a novel graph regularized matrix completion algorithm called GSGD, based on preconditioned projected gradient descent approach. We demonstrate that GSGD effectively captures the higher-order correlation information behind the graphs, and achieves superior robustness and stability against the false edges. Theoretically, we prove that GSGD achieves linear convergence to the global optimum with near-optimal sample complexity, providing the first theoretical guarantees for both recovery accuracy and efficacy in the perspective of nonconvex optimization. Our numerical experiments on both synthetic and real-world data further validate that GSGD achieves superior recovery accuracy and scalability compared with several popular alternatives.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google