Auto-Regressive Moving Diffusion Models for Time Series Forecasting

要約

時系列予測 (TSF) はさまざまな分野で不可欠であり、拡散ベースの TSF モデルの最近の進歩はかなりの期待を示しています。
ただし、これらのモデルは通常、TSF をノイズベースの条件付き生成タスクとして扱う従来の拡散パターンを採用しています。
このアプローチでは、時系列の固有の連続的な連続性が無視され、拡散メカニズムと TSF の目的の間に根本的な不整合が生じ、それによってパフォーマンスが著しく損なわれます。
この不整合を埋めるために、時系列を以前のデータ ポイントから進化する連続した連続的な推移とみなす古典的な自己回帰移動平均 (ARMA) 理論に触発され、最初に達成するための新しい自己回帰移動拡散 (ARMD) モデルを提案します。
連続逐次拡散ベースの TSF。
ホワイト ガウス ノイズから開始する以前の方法とは異なり、私たちのモデルは事前確率によるチェーンベースの拡散を採用し、時系列の進化を正確にモデル化し、中間状態情報を活用して予測の精度と安定性を向上させます。
具体的には、私たちのアプローチは、将来の系列を初期状態、過去の系列を最終状態とみなして拡散プロセスを再解釈し、フォワードプロセス中にスライディングベースの手法を使用して中間系列が生成されます。
この設計は、拡散モデルのサンプリング手順を予測目標に合わせて調整し、無条件で連続的な逐次拡散 TSF モデルを実現します。
広く使用されている 7 つのデータセットに対して行われた広範な実験により、私たちのモデルが最先端のパフォーマンスを達成し、既存の拡散ベースの TSF モデルを大幅に上回ることが実証されました。
私たちのコードは GitHub: https://github.com/daxin007/ARMD で入手できます。

要約(オリジナル)

Time series forecasting (TSF) is essential in various domains, and recent advancements in diffusion-based TSF models have shown considerable promise. However, these models typically adopt traditional diffusion patterns, treating TSF as a noise-based conditional generation task. This approach neglects the inherent continuous sequential nature of time series, leading to a fundamental misalignment between diffusion mechanisms and the TSF objective, thereby severely impairing performance. To bridge this misalignment, and inspired by the classic Auto-Regressive Moving Average (ARMA) theory, which views time series as continuous sequential progressions evolving from previous data points, we propose a novel Auto-Regressive Moving Diffusion (ARMD) model to first achieve the continuous sequential diffusion-based TSF. Unlike previous methods that start from white Gaussian noise, our model employs chain-based diffusion with priors, accurately modeling the evolution of time series and leveraging intermediate state information to improve forecasting accuracy and stability. Specifically, our approach reinterprets the diffusion process by considering future series as the initial state and historical series as the final state, with intermediate series generated using a sliding-based technique during the forward process. This design aligns the diffusion model’s sampling procedure with the forecasting objective, resulting in an unconditional, continuous sequential diffusion TSF model. Extensive experiments conducted on seven widely used datasets demonstrate that our model achieves state-of-the-art performance, significantly outperforming existing diffusion-based TSF models. Our code is available on GitHub: https://github.com/daxin007/ARMD.

arxiv情報

著者 Jiaxin Gao,Qinglong Cao,Yuntian Chen
発行日 2024-12-12 14:51:48+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG, stat.AP パーマリンク