TSCMamba: Mamba Meets Multi-View Learning for Time Series Classification

要約

多変量時系列分類（TSC）は、ヘルスケアやファイナンスなどの分野のさまざまなアプリケーションにとって重要です。
TSCのさまざまなアプローチが検討されていますが、シフト等量や反転不変性などの時系列の重要な特性は、既存の作品によってほとんど露出していません。
このギャップを埋めるために、Shift等変量などのプロパティでパターンをキャプチャする新しいマルチビューアプローチを提案します。
私たちの方法は、TSCの豊富な補完的なコンテキストを取得するために、スペクトル、時間、ローカル、グローバルな機能を含む多様な機能を統合します。
連続ウェーブレット変換を使用して、入力が時間内にシフトされた場合でも一貫性のある時間周波数機能をキャプチャします。
これらの機能は、一時的な畳み込みまたは多層パーセプトロンの特徴と融合して、複雑なローカルおよびグローバルなコンテキスト情報を提供します。
Mamba State Spaceモデルを利用して、効率的でスケーラブルなシーケンスモデリングと、時系列で長距離依存関係をキャプチャします。
さらに、Tango Scanningと呼ばれるMambaの新しいスキャンスキームを導入して、シーケンス関係を効果的にモデル化し、反転不変性を活用して、モデルの一般化と堅牢性を高めます。
2セットのベンチマークデータセット（10+20データセット）の実験は、アプローチの有効性を示しており、TimesNetやTSLANETなどの主要なTSCモデルよりも、それぞれ4.01-6.45 \％および7.93 \％の平均精度の改善を達成します。

要約(オリジナル)

Multivariate time series classification (TSC) is critical for various applications in fields such as healthcare and finance. While various approaches for TSC have been explored, important properties of time series, such as shift equivariance and inversion invariance, are largely underexplored by existing works. To fill this gap, we propose a novel multi-view approach to capture patterns with properties like shift equivariance. Our method integrates diverse features, including spectral, temporal, local, and global features, to obtain rich, complementary contexts for TSC. We use continuous wavelet transform to capture time-frequency features that remain consistent even when the input is shifted in time. These features are fused with temporal convolutional or multilayer perceptron features to provide complex local and global contextual information. We utilize the Mamba state space model for efficient and scalable sequence modeling and capturing long-range dependencies in time series. Moreover, we introduce a new scanning scheme for Mamba, called tango scanning, to effectively model sequence relationships and leverage inversion invariance, thereby enhancing our model’s generalization and robustness. Experiments on two sets of benchmark datasets (10+20 datasets) demonstrate our approach’s effectiveness, achieving average accuracy improvements of 4.01-6.45\% and 7.93\% respectively, over leading TSC models such as TimesNet and TSLANet.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google