WinTSR: A Windowed Temporal Saliency Rescaling Method for Interpreting Time Series Deep Learning Models

要約

複雑な時系列予測モデルの解釈は、時間ステップと時間の経過に伴う入力機能の動的関連性の間の時間的依存性のために困難です。
既存の解釈方法は、主に分類タスクに焦点を当て、最新の時系列モデルの代わりにカスタムベースラインモデルを使用して評価し、単純な合成データセットを使用し、別のモデルのトレーニングが必要になることで制限されます。
これらの制限に対処する新しい解釈方法\ textit {ウィンドウされた時間的顕著性の再スケーリング（Wintsr）}を紹介します。
WINTSRは、過去の時間ステップの間で一時的な依存関係を明示的にキャプチャし、この時間の重要性とともに機能の重要性を効率的にスケーリングします。
WINTSRは、時系列の基礎モデルを含む、さまざまなアーキテクチャの5つの最先端の深部学習モデルを使用して、最近の10の解釈技術に対してベンチマークします。
タイムシリーズの分類と回帰の両方に、3つの実際のデータセットを使用します。
当社の包括的な分析は、Wintsrが全体的なパフォーマンスにおける他のローカル解釈方法を大幅に上回ることを示しています。
最後に、最新の時系列変圧器と基礎モデルを解釈するための新しいオープンソースフレームワークを提供します。

要約(オリジナル)

Interpreting complex time series forecasting models is challenging due to the temporal dependencies between time steps and the dynamic relevance of input features over time. Existing interpretation methods are limited by focusing mostly on classification tasks, evaluating using custom baseline models instead of the latest time series models, using simple synthetic datasets, and requiring training another model. We introduce a novel interpretation method, \textit{Windowed Temporal Saliency Rescaling (WinTSR)} addressing these limitations. WinTSR explicitly captures temporal dependencies among the past time steps and efficiently scales the feature importance with this time importance. We benchmark WinTSR against 10 recent interpretation techniques with 5 state-of-the-art deep-learning models of different architectures, including a time series foundation model. We use 3 real-world datasets for both time-series classification and regression. Our comprehensive analysis shows that WinTSR significantly outperforms other local interpretation methods in overall performance. Finally, we provide a novel, open-source framework to interpret the latest time series transformers and foundation models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google