Time is Not Enough: Time-Frequency based Explanation for Time-Series Black-Box Models

要約

時系列の説明はその広範な応用により大きな注目を集めているにもかかわらず、既存のアプローチの顕著な制限は、主に時間領域に依存していることです。
これは、時間と周波数の両方の特徴を含む時系列データの固有の特性を見落としています。
この研究では、時系列ブラックボックス分類器の時間周波数説明を提供する XAI フレームワークである Spectral eXplanation (SpectralX) を紹介します。
この容易に適応可能なフレームワークを使用すると、ユーザーはフレームワーク アーキテクチャを変更することなく、事前トレーニングされた時系列分類モデルにさまざまな摂動ベースの XAI 手法を「プラグイン」して、説明品質への影響を評価できます。
さらに、新しい摂動ベースの XAI 手法である特徴重要度近似 (FIA) を導入します。
これらの手法は、時系列分類タスクにおける計算効率とクラス固有の説明を強化するための特徴の挿入、削除、および組み合わせ手法で構成されます。
生成された合成データセットとさまざまな UCR 時系列データセットで広範な実験を行い、最初に時間領域と時間周波数領域の両方で FIA と他の既存の摂動ベースの XAI 手法の説明パフォーマンスを比較し、次に私たちの優れていることを示します。
SpectralX フレームワークを使用した時間周波数ドメインの FIA。
最後に、クラス固有の時間周波数ベースの時系列説明のための SpectralX フレームワークにおける FIA の実用性を確認するためにユーザー調査を実施します。
ソース コードは https://github.com/gustmd0121/Time_is_not_Enough で入手できます。

要約(オリジナル)

Despite the massive attention given to time-series explanations due to their extensive applications, a notable limitation in existing approaches is their primary reliance on the time-domain. This overlooks the inherent characteristic of time-series data containing both time and frequency features. In this work, we present Spectral eXplanation (SpectralX), an XAI framework that provides time-frequency explanations for time-series black-box classifiers. This easily adaptable framework enables users to ‘plug-in’ various perturbation-based XAI methods for any pre-trained time-series classification models to assess their impact on the explanation quality without having to modify the framework architecture. Additionally, we introduce Feature Importance Approximations (FIA), a new perturbation-based XAI method. These methods consist of feature insertion, deletion, and combination techniques to enhance computational efficiency and class-specific explanations in time-series classification tasks. We conduct extensive experiments in the generated synthetic dataset and various UCR Time-Series datasets to first compare the explanation performance of FIA and other existing perturbation-based XAI methods in both time-domain and time-frequency domain, and then show the superiority of our FIA in the time-frequency domain with the SpectralX framework. Finally, we conduct a user study to confirm the practicality of our FIA in SpectralX framework for class-specific time-frequency based time-series explanations. The source code is available in https://github.com/gustmd0121/Time_is_not_Enough

arxiv情報

提供元, 利用サービス

arxiv.jp, Google