Graph Mixture of Experts and Memory-augmented Routers for Multivariate Time Series Anomaly Detection

要約

多変量時系列 (MTS) 異常検出は、相互に関連する複数の時系列で構成されるデータ内の異常なパターンまたはイベントを識別することを含む重要なタスクです。
エンティティ間の複雑な相互依存性と各エンティティのさまざまな固有の特性をより適切にモデル化するために、GNN ベースの手法が既存の手法で広く採用されています。
GNN の各層では、ノード機能が隣接ノードからの情報を集約して情報を更新します。
その際、GNN の浅い層から深い層にかけて、元の個々のノードの特徴は弱まり続け、より多くの構造情報、つまり近距離近傍から遠距離近傍までの情報が強化され続けます。
しかし、これまでの研究では、階層グラフ情報がどのように表現されるか、また異常検出に役立つその特性についての理解はほとんど無視されてきました。
既存の手法は、異常推定のために GNN の最後の層からの出力を利用するだけで、中間の GNN 層に含まれる重要な情報を無視しています。
このような制限に対処するために、この論文では、多変量時系列異常検出のためのグラフ混合エキスパート (Graph-MoE) ネットワークを提案します。このネットワークには、階層的な多層グラフ情報を適応的に表現および統合するための混合エキスパート (MoE) モジュールが組み込まれています。
エンティティ表現に変換します。
私たちの Graph-MoE は、プラグアンドプレイ方式で GNN ベースの MTS 異常検出方法に統合できることは注目に値します。
さらに、この論文では、MTS のグローバルな履歴特徴の観点から相関時間情報を取得し、取得したエンティティ表現を適応的に重み付けして異常推定を成功させるメモリ拡張ルーターを提案します。
5 つの困難なデータセットに対する広範な実験により、私たちのアプローチと提案された各モジュールの優位性が証明されました。

要約(オリジナル)

Multivariate time series (MTS) anomaly detection is a critical task that involves identifying abnormal patterns or events in data that consist of multiple interrelated time series. In order to better model the complex interdependence between entities and the various inherent characteristics of each entity, the GNN based methods are widely adopted by existing methods. In each layer of GNN, node features aggregate information from their neighboring nodes to update their information. In doing so, from shallow layer to deep layer in GNN, original individual node features continue to be weakened and more structural information,i.e., from short-distance neighborhood to long-distance neighborhood, continues to be enhanced. However, research to date has largely ignored the understanding of how hierarchical graph information is represented and their characteristics that can benefit anomaly detection. Existing methods simply leverage the output from the last layer of GNN for anomaly estimation while neglecting the essential information contained in the intermediate GNN layers. To address such limitations, in this paper, we propose a Graph Mixture of Experts (Graph-MoE) network for multivariate time series anomaly detection, which incorporates the mixture of experts (MoE) module to adaptively represent and integrate hierarchical multi-layer graph information into entity representations. It is worth noting that our Graph-MoE can be integrated into any GNN-based MTS anomaly detection method in a plug-and-play manner. In addition, the memory-augmented routers are proposed in this paper to capture the correlation temporal information in terms of the global historical features of MTS to adaptively weigh the obtained entity representations to achieve successful anomaly estimation. Extensive experiments on five challenging datasets prove the superiority of our approach and each proposed module.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google