Multi-Knowledge Fusion Network for Time Series Representation Learning

要約

高次元の多変量時系列 (MTS) によって特徴付けられる相互接続されたセンサー ネットワークなどの複雑な動的システムの動作を予測することは、情報に基づいた意思決定を行い、幅広いアプリケーションで将来に向けた計画を立てるために非常に重要です。
グラフ予測ネットワーク (GFN) は、時空間依存性を示す MTS データの予測に適しています。
しかし、MTS 予測に関する GFN ベースの手法のこれまでの研究のほとんどは、システムの非線形ダイナミクスをモデル化するドメインの専門知識に依存していますが、MTS データの基礎となる時系列変数間の固有の関係構造依存関係を活用する可能性を無視しています。
一方、現代の研究では、変数間の複雑な依存関係の関係構造を推測し、同時に相互接続されたシステムの非線形ダイナミクスを学習しようとしていますが、予測精度を向上させるためにドメイン固有の事前知識を組み込む可能性は無視されています。
この目的を達成するために、明示的な事前知識と MTS データ内のリレーショナル構造の暗黙的な知識を組み合わせたハイブリッド アーキテクチャを提案します。
時間条件付き構造時空間誘導バイアスをエンコードすることで、系列内の時間的依存性と系列間の空間的依存性を共同で学習し、より正確で信頼性の高い予測を提供します。
また、マルチホライズン予測の時間変化する不確実性をモデル化し、予測の不確実性の推定値を提供することで意思決定をサポートします。
提案されたアーキテクチャは、複数のベンチマーク データセットで有望な結果を示し、最先端の予測手法を大幅に上回りました。
私たちは、予測アーキテクチャを検証するためにアブレーション研究を報告し、議論します。

要約(オリジナル)

Forecasting the behaviour of complex dynamical systems such as interconnected sensor networks characterized by high-dimensional multivariate time series(MTS) is of paramount importance for making informed decisions and planning for the future in a broad spectrum of applications. Graph forecasting networks(GFNs) are well-suited for forecasting MTS data that exhibit spatio-temporal dependencies. However, most prior works of GFN-based methods on MTS forecasting rely on domain-expertise to model the nonlinear dynamics of the system, but neglect the potential to leverage the inherent relational-structural dependencies among time series variables underlying MTS data. On the other hand, contemporary works attempt to infer the relational structure of the complex dependencies between the variables and simultaneously learn the nonlinear dynamics of the interconnected system but neglect the possibility of incorporating domain-specific prior knowledge to improve forecast accuracy. To this end, we propose a hybrid architecture that combines explicit prior knowledge with implicit knowledge of the relational structure within the MTS data. It jointly learns intra-series temporal dependencies and inter-series spatial dependencies by encoding time-conditioned structural spatio-temporal inductive biases to provide more accurate and reliable forecasts. It also models the time-varying uncertainty of the multi-horizon forecasts to support decision-making by providing estimates of prediction uncertainty. The proposed architecture has shown promising results on multiple benchmark datasets and outperforms state-of-the-art forecasting methods by a significant margin. We report and discuss the ablation studies to validate our forecasting architecture.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google