Long-term Forecasting with TiDE: Time-series Dense Encoder

要約

タイトル:タイド(TiDE)による長期予測:時系列デンスエンコーダー

要約:
– 線形モデルが長期時系列予測においていくつかのTransformerベースの手法より優れることがわかっている。
– このことから、多層パーセプトロン(MLP)ベースのエンコーダーデコーダーモデルであるTiDEを提案する。
– TiDEは、線形モデルのシンプルさと高速性を備え、共変量や非線形の依存関係を扱うことができる。
– 理論的には、モデルの最もシンプルな線形アナログがいくつかの仮定のもとで線型動的システム(LDS)に対してほぼ最適な誤差率を達成できることを証明する。
– 実証的には、TiDEが人気のある長期時系列予測のベンチマークで従来の手法に匹敵または勝る結果を示しつつ、最高のTransformerベースモデルよりも5〜10倍高速であることを示す。

要約(オリジナル)

Recent work has shown that simple linear models can outperform several Transformer based approaches in long term time-series forecasting. Motivated by this, we propose a Multi-layer Perceptron (MLP) based encoder-decoder model, Time-series Dense Encoder (TiDE), for long-term time-series forecasting that enjoys the simplicity and speed of linear models while also being able to handle covariates and non-linear dependencies. Theoretically, we prove that the simplest linear analogue of our model can achieve near optimal error rate for linear dynamical systems (LDS) under some assumptions. Empirically, we show that our method can match or outperform prior approaches on popular long-term time-series forecasting benchmarks while being 5-10x faster than the best Transformer based model.

arxiv情報

著者 Abhimanyu Das,Weihao Kong,Andrew Leach,Shaan Mathur,Rajat Sen,Rose Yu
発行日 2023-04-27 23:09:16+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, OpenAI

カテゴリー: cs.LG, stat.ML パーマリンク