Latent Representation and Simulation of Markov Processes via Time-Lagged Information Bottleneck

要約

マルコフ過程は、さまざまな分野で動的システムを記述するために広く使用されている数学モデルです。
ただし、大規模システムを長い時間スケールで正確にシミュレートすると、正確な統合に必要なタイム ステップが短いため、計算コストが高くなります。
この論文では、複雑なシステムを単純化された表現空間にマッピングし、時間の大幅なジャンプをモデル化する推論プロセスを紹介します。
これを達成するために、情報理論に根ざした原則的な目標である時間差情報ボトルネック (T-IB) を提案します。これは、シミュレーション タスクを簡素化し、推論エラーを最小限に抑えるために高周波情報を破棄しながら、関連する時間的特徴を捕捉することを目的としています。
私たちの実験は、T-IB が、選択された時間差で元のプロセスの統計的特性とダイナミクスを正確にモデル化するための情報最適化表現を学習し、既存の時間差次元削減手法を上回るパフォーマンスを示すことを示しています。

要約(オリジナル)

Markov processes are widely used mathematical models for describing dynamic systems in various fields. However, accurately simulating large-scale systems at long time scales is computationally expensive due to the short time steps required for accurate integration. In this paper, we introduce an inference process that maps complex systems into a simplified representational space and models large jumps in time. To achieve this, we propose Time-lagged Information Bottleneck (T-IB), a principled objective rooted in information theory, which aims to capture relevant temporal features while discarding high-frequency information to simplify the simulation task and minimize the inference error. Our experiments demonstrate that T-IB learns information-optimal representations for accurately modeling the statistical properties and dynamics of the original process at a selected time lag, outperforming existing time-lagged dimensionality reduction methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google