Replica Analysis of the Linear Model with Markov or Hidden Markov Signal Priors

要約

この論文では、線形モデルの自由エネルギー、平均相互情報量、最小平均二乗誤差 (MMSE) を次の 2 つの仮定に基づいて推定します: (1) ソースはマルコフ連鎖によって生成される、(2) ソースは隠れマルコフ モデルによって生成される
。
私たちの推定は統計物理学のレプリカ法に基づいています。
事後平均推定器の下では、マルコフ源または隠れマルコフ源を含む線形モデルが、エンコーダとデコーダの両方で利用可能な状態情報を持つ単一入力 AWGN チャネルに分離され、状態分布は単位マンハッタンの左ペロン・フロベニウス固有ベクトルに従うことを示します。
マルコフ連鎖の確率行列のノルム。
数値結果は、レプリカ法によって得られた自由エネルギーと MSE が、メトロポリス・ヘイスティングス アルゴリズムまたは研究文献でよく知られている近似メッセージ パッシング アルゴリズムによって得られる相当物に非常に近いことを示しています。

要約(オリジナル)

This paper estimates free energy, average mutual information, and minimum mean square error (MMSE) of a linear model under two assumptions: (1) the source is generated by a Markov chain, (2) the source is generated via a hidden Markov model. Our estimates are based on the replica method in statistical physics. We show that under the posterior mean estimator, the linear model with Markov sources or hidden Markov sources is decoupled into single-input AWGN channels with state information available at both encoder and decoder where the state distribution follows the left Perron-Frobenius eigenvector with unit Manhattan norm of the stochastic matrix of Markov chains. Numerical results show that the free energies and MSEs obtained via the replica method are closely approximate to their counterparts achieved by the Metropolis-Hastings algorithm or some well-known approximate message passing algorithms in the research literature.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google