Fitting Multilevel Factor Models

要約

マルチレベル低ランク (MLR) 行列~\cite{parshakova2023factor} によって共分散が与えられる、マルチレベル因子モデルの特殊なケースを調べます。
私たちは、観測データの尤度を最大化するために、マルチレベル因子モデルに合わせた期待値最大化 (EM) アルゴリズムの新しい高速実装を開発します。
この方法は、あらゆる階層構造に対応し、反復ごとの直線的な時間とストレージの複雑さを維持します。
これは、正定値 MLR 行列の逆行列を計算する新しい効率的な手法によって実現されます。
可逆 PSD MLR 行列の逆行列も同じ因子のスパース性を持つ MLR 行列であることを示し、再帰的なシャーマン・モリソン・ウッドベリー行列恒等式を使用して逆行列の因子を取得します。
さらに、線形時間および空間複雑度をもつ拡張行列のコレスキー分解を計算し、そのシュール補数として共分散行列を生成するアルゴリズムを提示します。
この文書には、提案された方法を実装するオープンソース パッケージが付属しています。

要約(オリジナル)

We examine a special case of the multilevel factor model, with covariance given by multilevel low rank (MLR) matrix~\cite{parshakova2023factor}. We develop a novel, fast implementation of the expectation-maximization (EM) algorithm, tailored for multilevel factor models, to maximize the likelihood of the observed data. This method accommodates any hierarchical structure and maintains linear time and storage complexities per iteration. This is achieved through a new efficient technique for computing the inverse of the positive definite MLR matrix. We show that the inverse of an invertible PSD MLR matrix is also an MLR matrix with the same sparsity in factors, and we use the recursive Sherman-Morrison-Woodbury matrix identity to obtain the factors of the inverse. Additionally, we present an algorithm that computes the Cholesky factorization of an expanded matrix with linear time and space complexities, yielding the covariance matrix as its Schur complement. This paper is accompanied by an open-source package that implements the proposed methods.

arxiv情報

著者 Tetiana Parshakova,Trevor Hastie,Stephen Boyd
発行日 2024-09-18 15:39:12+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: 62H12, cs.LG, cs.MS, G.4, stat.CO, stat.ML パーマリンク