MA-VAE: Multi-head Attention-based Variational Autoencoder Approach for Anomaly Detection in Multivariate Time-series Applied to Automotive Endurance Powertrain Testing

要約

記録されたデータにますます注目が集まり、人間による手動評価が限界に達するにつれて、自動車試験に適用される自動異常検出のニーズが明らかになりました。
このような現実世界のデータは、本質的に大規模、多様、多変量、時間的なものであるため、被験者の行動のモデリングが必要です。
私たちは、マルチヘッド アテンション (MA-VAE) を備えた変分オートエンコーダーを提案します。これは、ラベルなしのデータでトレーニングすると、誤検知がほとんどないだけでなく、提示された異常の大部分を検出することもできます。
それに加えて、このアプローチは、文献で調査されている望ましくない動作であるバイパス現象を回避する新しい方法を提供します。
最後に、このアプローチでは、個々のウィンドウを連続時系列に再マップする新しい方法も導入されています。
結果は現実世界の産業データセットに基づいて提示され、提案されたモデルの特定の側面をさらに調査するためにいくつかの実験が行われます。
適切に構成されている場合、異常がフラグ付けされた場合、9% の確率で誤りがあり、存在する異常の 67% が検出されます。
また、MA-VAE はトレーニングと検証のサブセットの一部だけを使用しても良好なパフォーマンスを発揮する可能性がありますが、それを抽出するには、より高度なしきい値推定方法が必要です。

要約(オリジナル)

A clear need for automatic anomaly detection applied to automotive testing has emerged as more and more attention is paid to the data recorded and manual evaluation by humans reaches its capacity. Such real-world data is massive, diverse, multivariate and temporal in nature, therefore requiring modelling of the testee behaviour. We propose a variational autoencoder with multi-head attention (MA-VAE), which, when trained on unlabelled data, not only provides very few false positives but also manages to detect the majority of the anomalies presented. In addition to that, the approach offers a novel way to avoid the bypass phenomenon, an undesirable behaviour investigated in literature. Lastly, the approach also introduces a new method to remap individual windows to a continuous time series. The results are presented in the context of a real-world industrial data set and several experiments are undertaken to further investigate certain aspects of the proposed model. When configured properly, it is 9% of the time wrong when an anomaly is flagged and discovers 67% of the anomalies present. Also, MA-VAE has the potential to perform well with only a fraction of the training and validation subset, however, to extract it, a more sophisticated threshold estimation method is required.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google