Higher-order Spatio-temporal Physics-incorporated Graph Neural Network for Multivariate Time Series Imputation

要約

時系列には複雑な潜在的な時空間相関と動的な性質があるため、欠損値の探索は不可欠ですが、困難な問題です。
構造学習の可能性を扱う際に優れたパフォーマンスを発揮するため、グラフ ニューラル ネットワーク (GNN) とリカレント ニューラル ネットワーク (RNN) は、多変量時系列でそのような複雑な時空間特徴を捕捉するためによく使用されます。
ただし、これらのデータ駆動型モデルは、重大な信号破損が発生した場合に、重要な時空間関係を捕捉できないことがよくあります。
さらに、これらのモデルで高次の隣接ノードを計算することは、計算の複雑さが高くなります。
これらの問題に対処するために、我々は新しい高次の時空間物理学を組み込んだ GNN (HSPGNN) を提案します。
まず、動的ラプラシアン行列は、空間注意メカニズムによって取得できます。
次に、物理動的システムの一般的な不均一偏微分方程式 (PDE) を使用して動的高次時空間 GNN を構築し、欠落している時系列値を取得します。
さらに、説明可能性を高めるためにグラフ内の各ノードの重要性を評価するために、フローの正規化 (NF) によって欠落している影響を推定します。
4 つのベンチマーク データセットに関する実験結果は、HSPGNN の有効性と、さまざまな次数の隣接ノードを組み合わせた場合の優れたパフォーマンスを示しています。
また、HSPGNN によって、グラフ状のオプティカル フロー、動的グラフ、および欠落した影響が自然に得られ、従来のデータ駆動型モデルよりも優れた動的分析と説明が提供されます。
私たちのコードは https://github.com/gorgen2020/HSPGNN で入手できます。

要約(オリジナル)

Exploring the missing values is an essential but challenging issue due to the complex latent spatio-temporal correlation and dynamic nature of time series. Owing to the outstanding performance in dealing with structure learning potentials, Graph Neural Networks (GNNs) and Recurrent Neural Networks (RNNs) are often used to capture such complex spatio-temporal features in multivariate time series. However, these data-driven models often fail to capture the essential spatio-temporal relationships when significant signal corruption occurs. Additionally, calculating the high-order neighbor nodes in these models is of high computational complexity. To address these problems, we propose a novel higher-order spatio-temporal physics-incorporated GNN (HSPGNN). Firstly, the dynamic Laplacian matrix can be obtained by the spatial attention mechanism. Then, the generic inhomogeneous partial differential equation (PDE) of physical dynamic systems is used to construct the dynamic higher-order spatio-temporal GNN to obtain the missing time series values. Moreover, we estimate the missing impact by Normalizing Flows (NF) to evaluate the importance of each node in the graph for better explainability. Experimental results on four benchmark datasets demonstrate the effectiveness of HSPGNN and the superior performance when combining various order neighbor nodes. Also, graph-like optical flow, dynamic graphs, and missing impact can be obtained naturally by HSPGNN, which provides better dynamic analysis and explanation than traditional data-driven models. Our code is available at https://github.com/gorgen2020/HSPGNN.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google