Multi-SpaCE: Multi-Objective Subsequence-based Sparse Counterfactual Explanations for Multivariate Time Series Classification

要約

ディープラーニングシステムは複雑なタスクに優れていますが、多くの場合透明性がなく、重要なアプリケーションでの使用を制限します。
説明可能な人工知能（XAI）内のコアツールである反事実的説明は、予測される結果を変更するために入力の最小限の変更を識別することにより、モデルの決定に関する洞察を提供します。
ただし、時系列データの既存の方法は、単変量の仮定、修正に関する厳格な制約、または妥当性保証の欠如によって制限されます。
このペーパーでは、多変量時系列の多目的反事実的説明方法であるマルチスペースを紹介します。
非支配的なランキング遺伝的アルゴリズムII（NSGA-II）を使用して、マルチスペースのバランスの近接、スパース、妥当性、および連続性を使用します。
ほとんどの方法とは異なり、完全な妥当性を保証し、多変量データをサポートし、ソリューションのパレートの前面を提供し、異なるエンドユーザーのニーズに柔軟性を可能にします。
多様なデータセットでの包括的な実験は、マルチスペースが完全な妥当性を一貫して達成し、既存の方法と比較して優れたパフォーマンスを提供する能力を示しています。

要約(オリジナル)

Deep Learning systems excel in complex tasks but often lack transparency, limiting their use in critical applications. Counterfactual explanations, a core tool within eXplainable Artificial Intelligence (XAI), offer insights into model decisions by identifying minimal changes to an input to alter its predicted outcome. However, existing methods for time series data are limited by univariate assumptions, rigid constraints on modifications, or lack of validity guarantees. This paper introduces Multi-SpaCE, a multi-objective counterfactual explanation method for multivariate time series. Using non-dominated ranking genetic algorithm II (NSGA-II), Multi-SpaCE balances proximity, sparsity, plausibility, and contiguity. Unlike most methods, it ensures perfect validity, supports multivariate data and provides a Pareto front of solutions, enabling flexibility to different end-user needs. Comprehensive experiments in diverse datasets demonstrate the ability of Multi-SpaCE to consistently achieve perfect validity and deliver superior performance compared to existing methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google