Is Channel Independent strategy optimal for Time Series Forecasting?

要約

長期時系列予測のためのさまざまなモデルが登場しています。
最近の研究では、チャネル依存 (CD) またはチャネル独立 (CI) モデリングを使用した単一の線形レイヤーが、多数の洗練されたモデルよりも優れたパフォーマンスを発揮できることが実証されています。
しかし、現在の研究では主に CD と CI を 2 つの補完的ではあるが相互に排他的なアプローチとして考慮しており、これら 2 つの両極端を同時に利用することはできません。
また、CD と CI の両方が静的な戦略であり、広範な実験を行わなければ特定のデータセットに最適であると判断できないことも、難しい問題です。
このペーパーでは、現在の CI 戦略が時系列予測に最適なソリューションであるかどうかを再検討します。
まず、線形モデルに対して、$\mathbf{C}$hannel $\mathbf{S}$elf-$\mathbf{C}$lustering 戦略の略である CSC と呼ばれる、シンプルかつ効果的な戦略を提案します。
当社のチャネル自己クラスタリング (CSC) は、パラメータ サイズを削減しながら、たとえば電力データセットで 10 倍以上削減し、トレーニング時間を大幅に短縮しながら、CI 戦略のパフォーマンス向上を強化します。
第 2 に、自己クラスタリングにヒントを得たディープ モデルの手法であるチャネル再配置 (CR) をさらに提案します。
CR はベースラインと比較して競争力のあるパフォーマンスを達成します。
最後に、同じチャネルの過去の値を入力として使用して将来の値を予測するのが最善かどうかについても説明します。
私たちの調査結果と手法が CD/CI を超えた新しいソリューションを生み出すことを願っています。

要約(オリジナル)

There has been an emergence of various models for long-term time series forecasting. Recent studies have demonstrated that a single linear layer, using Channel Dependent (CD) or Channel Independent (CI) modeling, can even outperform a large number of sophisticated models. However, current research primarily considers CD and CI as two complementary yet mutually exclusive approaches, unable to harness these two extremes simultaneously. And it is also a challenging issue that both CD and CI are static strategies that cannot be determined to be optimal for a specific dataset without extensive experiments. In this paper, we reconsider whether the current CI strategy is the best solution for time series forecasting. First, we propose a simple yet effective strategy called CSC, which stands for $\mathbf{C}$hannel $\mathbf{S}$elf-$\mathbf{C}$lustering strategy, for linear models. Our Channel Self-Clustering (CSC) enhances CI strategy’s performance improvements while reducing parameter size, for exmpale by over 10 times on electricity dataset, and significantly cutting training time. Second, we further propose Channel Rearrangement (CR), a method for deep models inspired by the self-clustering. CR attains competitive performance against baselines. Finally, we also discuss whether it is best to forecast the future values using the historical values of the same channel as inputs. We hope our findings and methods could inspire new solutions beyond CD/CI.

arxiv情報

著者 Yuan Peiwen,Zhu Changsheng
発行日 2023-12-19 14:14:44+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG, eess.SP パーマリンク