From Spectral Theorem to Statistical Independence with Application to System Identification

要約

高次元のランダム動的システムは遍在しています。これには、サイバー物理システム、S&P 1500 のさまざまな銘柄の日次収益、マッキーンブラソフ限界付近の相互作用する粒子システムの速度プロファイルなどが含まれますが、これらに限定されません。
数学的には、根底にある現象は、安定した $n$ 次元の線形変換 `$A$’ と加法的ランダム性を介して捉えることができます。
システム同定は、長さ $N$ の軌道 ($n \times N$ 次元データ行列に相当) が与えられた、基礎となる力学システムに関する有用な情報を抽出することを目的としています。
非エルミート演算子のスペクトル定理を使用して、時空間相関が、状態遷移行列に対応する個別の固有値の代数的多重度と幾何学的多重度の間の不一致によって決定されることを示します。
小さな矛盾は、元の軌道が本質的に $A$ 不変部分空間上に存在する複数の低次元ランダム力学系で構成され、統計的に互いに独立していることを意味します。
その過程で、状態遷移行列 $\|A^{k}\|$ の有限べき乗の減衰率に関する最初の定量的ハンドルを提供します。
安定した力学系が異なる固有値を 1 つだけ持ち、$n-1$ の不一致がある場合、$\|A\|$ は $n$ に依存し、結果として生じる力学は空間的に分離不可能であり、その結果、少なくとも 1 つの固有値が存在することが示されています。
典型的なサイズ $\Theta\big(\sqrt{N-n+1}$ $e^{n}\big)$ の共変量を含む行、つまり、安定性の仮定の下でも、共変量は次元の呪いに悩まされる可能性があります。
これらの発見に照らして、要素ごとの誤差が本質的によく知られているリトルウッド・オフォードの変形であることを示すことで、観察された軌跡の最小二乗回帰による状態遷移行列 $A$ の推定における非漸近誤差分析の準備を整えました。
問題。

要約(オリジナル)

High dimensional random dynamical systems are ubiquitous, including — but not limited to — cyber-physical systems, daily return on different stocks of S&P 1500 and velocity profile of interacting particle systems around McKeanVlasov limit. Mathematically, underlying phenomenon can be captured via a stable $n$-dimensional linear transformation `$A$’ and additive randomness. System identification aims at extracting useful information about underlying dynamical system, given a length $N$ trajectory from it (corresponds to an $n \times N$ dimensional data matrix). We use spectral theorem for non-Hermitian operators to show that spatio-temperal correlations are dictated by the discrepancy between algebraic and geometric multiplicity of distinct eigenvalues corresponding to state transition matrix. Small discrepancies imply that original trajectory essentially comprises of multiple lower dimensional random dynamical systems living on $A$ invariant subspaces and are statistically independent of each other. In the process, we provide first quantitative handle on decay rate of finite powers of state transition matrix $\|A^{k}\|$ . It is shown that when a stable dynamical system has only one distinct eigenvalue and discrepancy of $n-1$: $\|A\|$ has a dependence on $n$, resulting dynamics are spatially inseparable and consequently there exist at least one row with covariates of typical size $\Theta\big(\sqrt{N-n+1}$ $e^{n}\big)$ i.e., even under stability assumption, covariates can suffer from curse of dimensionality. In the light of these findings we set the stage for non-asymptotic error analysis in estimation of state transition matrix $A$ via least squares regression on observed trajectory by showing that element-wise error is essentially a variant of well-know Littlewood-Offord problem.

arxiv情報

著者 Muhammad Abdullah Naeem,Amir Khazraei,Miroslav Pajic
発行日 2023-10-16 15:40:43+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, cs.SY, eess.SY, math.PR, math.ST, stat.TH パーマリンク