TimeSieve: Extracting Temporal Dynamics through Information Bottlenecks

要約

時系列予測は、交通管理、気象予測、財務分析など、現実世界のさまざまな領域で重要な用途に使用されるため、ますます人気のある研究分野になっています。
大幅な進歩にもかかわらず、既存のモデルは、さまざまなデータセットに対して手動でハイパーパラメーターを調整する必要性や、強い季節性を特徴とするデータ内の冗長な特徴から信号を効果的に区別することの難しさなど、顕著な課題に直面しています。
これらの問題は、時系列予測モデルの一般化と実用化を妨げています。
この問題を解決するために、これらの課題に対処するために設計された革新的な時系列予測モデル TimeSieve を提案します。
私たちのアプローチでは、ウェーブレット変換を使用して時系列データを前処理し、追加のパラメーターや手動のハイパーパラメーター調整を必要とせずに、マルチスケールの特徴を効果的にキャプチャします。
さらに、詳細係数と近似係数の両方から冗長な特徴をフィルタリングして除去し、最も予測可能な情報のみを保持する情報ボトルネック理論を導入します。
この組み合わせにより、モデルの精度が大幅に向上します。
広範な実験により、私たちのモデルがデータセットの 70% で既存の最先端の手法を上回っており、多様なデータセットにわたってより高い予測精度とより優れた一般化を実現していることが実証されています。
私たちの結果は、時系列予測における主要な課題に対処する上での私たちのアプローチの有効性を検証し、実際のアプリケーションでより信頼性が高く効率的な予測モデルへの道を切り開きます。
モデルのコードは https://github.com/xll0328/TimeSieve で入手できます。

要約(オリジナル)

Time series forecasting has become an increasingly popular research area due to its critical applications in various real-world domains such as traffic management, weather prediction, and financial analysis. Despite significant advancements, existing models face notable challenges, including the necessity of manual hyperparameter tuning for different datasets, and difficulty in effectively distinguishing signal from redundant features in data characterized by strong seasonality. These issues hinder the generalization and practical application of time series forecasting models. To solve this issues, we propose an innovative time series forecasting model TimeSieve designed to address these challenges. Our approach employs wavelet transforms to preprocess time series data, effectively capturing multi-scale features without the need for additional parameters or manual hyperparameter tuning. Additionally, we introduce the information bottleneck theory that filters out redundant features from both detail and approximation coefficients, retaining only the most predictive information. This combination reduces significantly improves the model’s accuracy. Extensive experiments demonstrate that our model outperforms existing state-of-the-art methods on 70\% of the datasets, achieving higher predictive accuracy and better generalization across diverse datasets. Our results validate the effectiveness of our approach in addressing the key challenges in time series forecasting, paving the way for more reliable and efficient predictive models in practical applications. The code for our model is available at https://github.com/xll0328/TimeSieve.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google