Considering Nonstationary within Multivariate Time Series with Variational Hierarchical Transformer for Forecasting

要約

多変量時系列 (MTS) の予測は、長い間重要ではありますが、困難なタスクでした。
長距離のタイムステップにわたる非定常問題のため、以前の研究では主に定常化手法を採用して、元の系列の非定常問題を軽減し、予測可能性を高めてきました。
しかし、既存の手法は常に定常化系列を採用しており、固有の非定常性を無視しており、確率性の欠如により複雑な分布を持つ MTS をモデル化することが困難です。
これらの問題に取り組むために、私たちはまず、MTS 内の非定常性と確率的特性を考慮するための強力な階層型確率生成モジュールを開発し、次にそれを Hierarchical Time series variational Transformer (HTV-
Trans)、固有の非定常情報を時間依存関係に復元します。
強力な確率モデルである HTV-Trans は、MTS の表現表現を学習するために利用され、予測タスクに適用されます。
多様なデータセットに関する広範な実験により、MTS 予測タスクにおける HTV-Trans の効率性が示されました

要約(オリジナル)

The forecasting of Multivariate Time Series (MTS) has long been an important but challenging task. Due to the non-stationary problem across long-distance time steps, previous studies primarily adopt stationarization method to attenuate the non-stationary problem of the original series for better predictability. However, existing methods always adopt the stationarized series, which ignores the inherent non-stationarity, and has difficulty in modeling MTS with complex distributions due to the lack of stochasticity. To tackle these problems, we first develop a powerful hierarchical probabilistic generative module to consider the non-stationarity and stochastic characteristics within MTS, and then combine it with transformer for a well-defined variational generative dynamic model named Hierarchical Time series Variational Transformer (HTV-Trans), which recovers the intrinsic non-stationary information into temporal dependencies. Being a powerful probabilistic model, HTV-Trans is utilized to learn expressive representations of MTS and applied to forecasting tasks. Extensive experiments on diverse datasets show the efficiency of HTV-Trans on MTS forecasting tasks

arxiv情報

提供元, 利用サービス

arxiv.jp, Google