Approximate Message Passing for the Matrix Tensor Product Model

要約

行列テンソル積モデルの近似メッセージ パッシング (AMP) アルゴリズムを提案および分析します。これは、潜在変数のコレクションに対して複数のタイプのペアごとの観測を可能にする標準スパイク行列モデルの一般化です。
このアルゴリズムの重要な革新は、各反復で複数の推定値を最適に重み付けして組み合わせる方法です。
非分離関数の AMP 収束定理に基づいて、高次元の極限におけるパフォーマンスの漸近的で正確な記述を提供する非分離関数の状態発展を証明します。
この状態進化の結果を利用して、対象の信号を回復するために必要かつ十分な条件を提供します。
このような条件は、モデルの信号対雑音比の適切な一般化から導出される線形演算子の特異値に依存します。
私たちの結果は、特殊なケースとして、不均一ノイズ モデルだけでなく、コンテキスト モデル (共変量支援クラスタリングなど) に対して最近提案された多くの方法を復元します。

要約(オリジナル)

We propose and analyze an approximate message passing (AMP) algorithm for the matrix tensor product model, which is a generalization of the standard spiked matrix models that allows for multiple types of pairwise observations over a collection of latent variables. A key innovation for this algorithm is a method for optimally weighing and combining multiple estimates in each iteration. Building upon an AMP convergence theorem for non-separable functions, we prove a state evolution for non-separable functions that provides an asymptotically exact description of its performance in the high-dimensional limit. We leverage this state evolution result to provide necessary and sufficient conditions for recovery of the signal of interest. Such conditions depend on the singular values of a linear operator derived from an appropriate generalization of a signal-to-noise ratio for our model. Our results recover as special cases a number of recently proposed methods for contextual models (e.g., covariate assisted clustering) as well as inhomogeneous noise models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google