Gradient flow on extensive-rank positive semi-definite matrix denoising

要約

この作業では、拡張ランクと高次元体制で正の半正定行列ノイズ除去問題の勾配フローを分析する新しいアプローチを提示します。
ランダム行列理論の最近の線形ペンシル手法を使用して、問題の行列平均二乗誤差の完全な時間発展を追跡する固定小数点方程式を導き出します。
得られた固定小数点方程式の予測は、数値実験によって検証されます。
この短いメモでは、例として形式主義のいくつかの予測を簡単に説明します。特に、低ランクの問題の古典的な相転移に接続する、拡張ランクと高次元の領域での連続的な相転移を明らかにします。
適切な制限で。
形式主義は、この通信で示されているよりもはるかに広い適用可能性を持っています。

要約(オリジナル)

In this work, we present a new approach to analyze the gradient flow for a positive semi-definite matrix denoising problem in an extensive-rank and high-dimensional regime. We use recent linear pencil techniques of random matrix theory to derive fixed point equations which track the complete time evolution of the matrix-mean-square-error of the problem. The predictions of the resulting fixed point equations are validated by numerical experiments. In this short note we briefly illustrate a few predictions of our formalism by way of examples, and in particular we uncover continuous phase transitions in the extensive-rank and high-dimensional regime, which connect to the classical phase transitions of the low-rank problem in the appropriate limit. The formalism has much wider applicability than shown in this communication.

arxiv情報

著者 Antoine Bodin,Nicolas Macris
発行日 2023-03-16 16:50:46+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク