TimeMixer++: A General Time Series Pattern Machine for Universal Predictive Analysis

要約

時系列分析は、予測、分類、異常検出、代入などのタスクをサポートする多くのアプリケーションで重要な役割を果たします。
この作業では、強力な表現とパターン抽出機能を通じて広範な時系列タスクに優れているように設計されたモデルである時系列パターンマシン（TSPM）を紹介します。
従来の時系列モデルは、普遍的なパターンを捉えるのに苦労しており、多様なタスクにわたる有効性を制限しています。
これに対処するために、時間領域の複数のスケールと周波数ドメインのさまざまな解像度を定義し、複雑なタスクに適した時系列パターンを抽出するためのさまざまな混合戦略を使用します。
具体的には、（1）マルチ解像度時間イメージング（MRTI）、（2）時間画像分解（TID）、（3）マルチスケールミキシング（MCM）、および（4）マルチ解像度の混合（MRM）を使用して、総合的な時間パターンを抽出して、マルチスケールの時系列を処理する汎用TSPMを導入します。
MRTIは、マルチスケールの時系列をマルチ解像度の時間画像に変換し、時間的ドメインと周波数ドメインの両方でパターンをキャプチャします。
TIDはデュアル軸の注意をレバレバルして季節と傾向のパターンを抽出しますが、MCMはこれらのパターンをスケール間で階層的に集約します。
MRMは、解像度全体ですべての表現を適応的に統合します。
この方法は、8つの時系列分析タスクで最先端のパフォーマンスを実現し、一貫して汎用モデルとタスク固有のモデルの両方を上回ります。
私たちの仕事は、次世代のTSPMに向けた有望なステップを示し、時系列分析のさらなる進歩への道を開いています。

要約(オリジナル)

Time series analysis plays a critical role in numerous applications, supporting tasks such as forecasting, classification, anomaly detection, and imputation. In this work, we present the time series pattern machine (TSPM), a model designed to excel in a broad range of time series tasks through powerful representation and pattern extraction capabilities. Traditional time series models often struggle to capture universal patterns, limiting their effectiveness across diverse tasks. To address this, we define multiple scales in the time domain and various resolutions in the frequency domain, employing various mixing strategies to extract intricate, task-adaptive time series patterns. Specifically, we introduce a general-purpose TSPM that processes multi-scale time series using (1) multi-resolution time imaging (MRTI), (2) time image decomposition (TID), (3) multi-scale mixing (MCM), and (4) multi-resolution mixing (MRM) to extract comprehensive temporal patterns. MRTI transforms multi-scale time series into multi-resolution time images, capturing patterns across both temporal and frequency domains. TID leverages dual-axis attention to extract seasonal and trend patterns, while MCM hierarchically aggregates these patterns across scales. MRM adaptively integrates all representations across resolutions. This method achieves state-of-the-art performance across 8 time series analytical tasks, consistently surpassing both general-purpose and task-specific models. Our work marks a promising step toward the next generation of TSPMs, paving the way for further advancements in time series analysis.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google