Implet: A Post-hoc Subsequence Explainer for Time Series Models

要約

時系列モデルの説明可能性は、信頼を促進し、デバッグを促進し、実際のアプリケーションで解釈可能性を確保するために重要です。
この作業では、時系列モデルの正確かつ簡潔なサブシーケンスレベルの説明を生成する新しい事後説明者であるインパレットを紹介します。
私たちのアプローチは、モデルの予測に大きく貢献する重要な時間的セグメントを特定し、従来の特徴と分布の方法を超えた解釈可能性を高めることを提供します。
それに基づいて、説明の簡潔さと解釈性をさらに向上させるために設計されたコホートベースの（グループレベル）説明フレームワークを提案します。
いくつかの標準的な時系列分類ベンチマークのンプを評価し、解釈可能性を改善する上でその有効性を示しています。
このコードはhttps://github.com/lbzsteven/impletで入手できます

要約(オリジナル)

Explainability in time series models is crucial for fostering trust, facilitating debugging, and ensuring interpretability in real-world applications. In this work, we introduce Implet, a novel post-hoc explainer that generates accurate and concise subsequence-level explanations for time series models. Our approach identifies critical temporal segments that significantly contribute to the model’s predictions, providing enhanced interpretability beyond traditional feature-attribution methods. Based on it, we propose a cohort-based (group-level) explanation framework designed to further improve the conciseness and interpretability of our explanations. We evaluate Implet on several standard time-series classification benchmarks, demonstrating its effectiveness in improving interpretability. The code is available at https://github.com/LbzSteven/implet

arxiv情報

提供元, 利用サービス

arxiv.jp, Google