SOFTS: Efficient Multivariate Time Series Forecasting with Series-Core Fusion

要約

多変量時系列予測は、金融、交通管理、エネルギー、ヘルスケアなどのさまざまな分野で重要な役割を果たしています。
最近の研究では、分布のドリフトに抵抗するチャネルの独立性の利点が強調されていますが、チャネルの相関性は無視されており、さらなる強化は制限されています。
いくつかの方法では、アテンションやミキサーなどのメカニズムを利用して、チャネル相関を捕捉することでこの問題に対処していますが、過剰な複雑性が導入されるか、相関に過度に依存するため、特に多数のチャネルで分布ドリフトの下で満足のいく結果を得ることができません。
このギャップに対処するために、このペーパーでは、新しい STar Aggregate-Dispatch (STAD) モジュールを組み込んだ効率的な MLP ベースのモデルである Series-cOre Fused Time Series Forecaster (SOFTS) を紹介します。
アテンションなどの分散構造を通じてチャネル インタラクションを管理する従来のアプローチとは異なり、STAD は集中化された戦略を採用しています。
すべてのシリーズを集約してグローバル コア表現を形成し、その後ディスパッチされて個々のシリーズ表現と融合して、チャネル インタラクションを効果的に促進します。
SOFTS は、直線的な複雑さのみで、既存の最先端の手法を上回る優れたパフォーマンスを実現します。
STAD モジュールがさまざまな予測モデルに幅広く適用できることも経験的に実証されています。
さらなる研究と開発のために、コードを https://github.com/Secilia-Cxy/SOFTS で公開しました。

要約(オリジナル)

Multivariate time series forecasting plays a crucial role in various fields such as finance, traffic management, energy, and healthcare. Recent studies have highlighted the advantages of channel independence to resist distribution drift but neglect channel correlations, limiting further enhancements. Several methods utilize mechanisms like attention or mixer to address this by capturing channel correlations, but they either introduce excessive complexity or rely too heavily on the correlation to achieve satisfactory results under distribution drifts, particularly with a large number of channels. Addressing this gap, this paper presents an efficient MLP-based model, the Series-cOre Fused Time Series forecaster (SOFTS), which incorporates a novel STar Aggregate-Dispatch (STAD) module. Unlike traditional approaches that manage channel interactions through distributed structures, e.g., attention, STAD employs a centralized strategy. It aggregates all series to form a global core representation, which is then dispatched and fused with individual series representations to facilitate channel interactions effectively. SOFTS achieves superior performance over existing state-of-the-art methods with only linear complexity. The broad applicability of the STAD module across different forecasting models is also demonstrated empirically. For further research and development, we have made our code publicly available at https://github.com/Secilia-Cxy/SOFTS.

arxiv情報

著者 Lu Han,Xu-Yang Chen,Han-Jia Ye,De-Chuan Zhan
発行日 2024-04-22 14:06:35+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG パーマリンク