Do algorithms and barriers for sparse principal component analysis extend to other structured settings?

要約

信号内の構造が部分空間和集合モデルのクラスによって捕捉されるスパイク付きウィシャート モデルの下で主成分分析問題を研究します。
この一般的なクラスには、バニラ スパース PCA と、グラフ スパース性を備えたそのバリアントが含まれます。
統合された統計的および計算的レンズの下でこれらの問題を研究するという目的で、問題インスタンスの幾何学的形状に依存する基本的な制限を確立し、自然投影パワー法が統計的に最適に近い解の近傍への局所的収束を示すことを示します。
。
これらの結果を、パスとツリーの疎さによって一般的に与えられる 2 つの重要な特殊ケースのエンドツーエンドの分析で補完し、初期化方法と計算の困難さの一致する証拠を示します。
全体として、我々の結果は、バニラスパース PCA で観察された現象のいくつかが、構造化された対応物にも自然な形で拡張されることを示しています。

要約(オリジナル)

We study a principal component analysis problem under the spiked Wishart model in which the structure in the signal is captured by a class of union-of-subspace models. This general class includes vanilla sparse PCA as well as its variants with graph sparsity. With the goal of studying these problems under a unified statistical and computational lens, we establish fundamental limits that depend on the geometry of the problem instance, and show that a natural projected power method exhibits local convergence to the statistically near-optimal neighborhood of the solution. We complement these results with end-to-end analyses of two important special cases given by path and tree sparsity in a general basis, showing initialization methods and matching evidence of computational hardness. Overall, our results indicate that several of the phenomena observed for vanilla sparse PCA extend in a natural fashion to its structured counterparts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google