Context Matters: Leveraging Contextual Features for Time Series Forecasting

要約

時系列予測は、対応する履歴に加えて、外因性のコンテキスト上の特徴の影響を受けることがよくあります。
たとえば、金融の現場では、ニュース記事やツイートなどの形での国民感情や政策決定を考慮せずに株価を正確に予測することは困難です。これは常識ですが、現在の最先端(
SOTA) 予測モデルは、その異質性と多峰性の性質により、そのようなコンテキスト情報を組み込むことができません。
これに対処するために、マルチモーダルなコンテキスト情報を既存の事前トレーニング済み予測モデルに外科的に統合する新しいプラグアンドプレイ手法である ContextFormer を導入します。
ContextFormer は、カテゴリ情報、連続情報、時変情報、さらにはテキスト情報など、豊富なマルチモーダル コンテキストから予測固有の情報を効果的に抽出し、既存の基本予測者のパフォーマンスを大幅に向上させます。
ContextFormer は、エネルギー、交通、環境、金融の領域にわたるさまざまな現実世界のデータセットにおいて、SOTA 予測モデルよりも最大 30% 優れたパフォーマンスを発揮します。

要約(オリジナル)

Time series forecasts are often influenced by exogenous contextual features in addition to their corresponding history. For example, in financial settings, it is hard to accurately predict a stock price without considering public sentiments and policy decisions in the form of news articles, tweets, etc. Though this is common knowledge, the current state-of-the-art (SOTA) forecasting models fail to incorporate such contextual information, owing to its heterogeneity and multimodal nature. To address this, we introduce ContextFormer, a novel plug-and-play method to surgically integrate multimodal contextual information into existing pre-trained forecasting models. ContextFormer effectively distills forecast-specific information from rich multimodal contexts, including categorical, continuous, time-varying, and even textual information, to significantly enhance the performance of existing base forecasters. ContextFormer outperforms SOTA forecasting models by up to 30% on a range of real-world datasets spanning energy, traffic, environmental, and financial domains.

arxiv情報

著者 Sameep Chattopadhyay,Pulkit Paliwal,Sai Shankar Narasimhan,Shubhankar Agarwal,Sandeep P. Chinchali
発行日 2024-10-16 15:36:13+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG パーマリンク