AMAD: AutoMasked Attention for Unsupervised Multivariate Time Series Anomaly Detection

要約

監視されていない多変量時系列異常検出（UMTSAD）は、金融、ネットワーク、センサーシステムなど、さまざまなドメインで重要な役割を果たします。
近年、一般的な連続したタスクにおけるディープラーニングの優れたパフォーマンスにより、多くのモデルは深いUMTSADタスクに特化しており、特に変圧器と自己触媒メカニズムに基づいた印象的な結果を達成しています。
ただし、これらのモデルの根底にある配列異常関連の仮定は、多くの場合、濃縮またはピークの異常パターンなどの特定の事前定義されたパターンとシナリオに限定されます。
これらの制限は、特にラベルの欠如が重要な課題をもたらす場合、多様な異常な状況に一般化する能力を妨げます。
これらの問題に対処するために、\ textbf {a} uto \ textbf {m}を統合するAmadを提案します。
Amadは、Automaskメカニズムと注意混合モジュールに基づいた新しい構造を導入し、シンプルでありながら一般化された異常関連の表現フレームワークを形成します。
このフレームワークは、マックスミントレーニング戦略とローカルグローバルコントラスト学習アプローチによってさらに強化されています。
マルチスケールの特徴抽出と自動相対関連モデリングを組み合わせることにより、AMADはUMTSADの課題に対して堅牢で適応性のあるソリューションを提供します。
広範な実験結果は、さまざまなデータセットにわたるSOTAベンチマークと比較して、競争力のあるパフォーマンス結果を達成する提案されたモデルが競争力のあるパフォーマンス結果を達成することを示しています。

要約(オリジナル)

Unsupervised multivariate time series anomaly detection (UMTSAD) plays a critical role in various domains, including finance, networks, and sensor systems. In recent years, due to the outstanding performance of deep learning in general sequential tasks, many models have been specialized for deep UMTSAD tasks and have achieved impressive results, particularly those based on the Transformer and self-attention mechanisms. However, the sequence anomaly association assumptions underlying these models are often limited to specific predefined patterns and scenarios, such as concentrated or peak anomaly patterns. These limitations hinder their ability to generalize to diverse anomaly situations, especially where the lack of labels poses significant challenges. To address these issues, we propose AMAD, which integrates \textbf{A}uto\textbf{M}asked Attention for UMTS\textbf{AD} scenarios. AMAD introduces a novel structure based on the AutoMask mechanism and an attention mixup module, forming a simple yet generalized anomaly association representation framework. This framework is further enhanced by a Max-Min training strategy and a Local-Global contrastive learning approach. By combining multi-scale feature extraction with automatic relative association modeling, AMAD provides a robust and adaptable solution to UMTSAD challenges. Extensive experimental results demonstrate that the proposed model achieving competitive performance results compared to SOTA benchmarks across a variety of datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google