Introducing the Attribution Stability Indicator: a Measure for Time Series XAI Attributions

要約

金融、天気予報、ヘルスケアなどの分野における時系列データの量と一般的な複雑さが増加していることを考慮すると、根底にあるパターンや関係について解釈可能な洞察を提供できる最先端のパフォーマンス モデルの必要性が高まっています。
アトリビューション手法を使用すると、時系列モデルから説明を抽出して洞察を得ることができますが、その堅牢性と信頼性を評価するのは困難です。
私たちは、時系列のアトリビューション手法の特性として堅牢性と信頼性を考慮に入れるための尺度であるアトリビューション安定性指標 (ASI) を提案します。
元の時系列の相関を摂動インスタンスと属性に拡張して摂動分析を拡張し、必要なプロパティをメジャーに含めます。
次元削減空間における属性の分析と、3 つの時系列分類データセット全体にわたる ASI スコア分布に基づいて、必要なプロパティを実証します。

要約(オリジナル)

Given the increasing amount and general complexity of time series data in domains such as finance, weather forecasting, and healthcare, there is a growing need for state-of-the-art performance models that can provide interpretable insights into underlying patterns and relationships. Attribution techniques enable the extraction of explanations from time series models to gain insights but are hard to evaluate for their robustness and trustworthiness. We propose the Attribution Stability Indicator (ASI), a measure to incorporate robustness and trustworthiness as properties of attribution techniques for time series into account. We extend a perturbation analysis with correlations of the original time series to the perturbed instance and the attributions to include wanted properties in the measure. We demonstrate the wanted properties based on an analysis of the attributions in a dimension-reduced space and the ASI scores distribution over three whole time series classification datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google