Time Interpret: a Unified Model Interpretability Library for Time Series

要約

$\texttt{time_interpret}$ は、特に時間データに焦点を当て、Captum の拡張機能として設計されたライブラリです。
そのため、このライブラリは、Pytorch モデルによって行われた予測を説明するために使用できるいくつかの特徴帰属メソッドを実装しています。
$\texttt{time_interpret}$ は、いくつかの合成および実世界の時系列データセット、さまざまな PyTorch モデル、および特徴の属性を評価するための一連のメソッドも提供します。
さらに、主に時間データに基づく予測を説明するために開発されていますが、そのコンポーネントの一部は、たとえば言語モデルによって行われる予測を説明する方法など、異なる用途に使用されます。
本稿では、このライブラリの概要を紹介します。
また、$\texttt{time_interpret}$ とともに開発された、これまでに公開されていないいくつかの特徴帰属手法も紹介します。

要約(オリジナル)

We introduce $\texttt{time_interpret}$, a library designed as an extension of Captum, with a specific focus on temporal data. As such, this library implements several feature attribution methods that can be used to explain predictions made by any Pytorch model. $\texttt{time_interpret}$ also provides several synthetic and real world time series datasets, various PyTorch models, as well as a set of methods to evaluate feature attributions. Moreover, while being primarily developed to explain predictions based on temporal data, some of its components have a different application, including for instance methods explaining predictions made by language models. In this paper, we give a general introduction of this library. We also present several previously unpublished feature attribution methods, which have been developed along with $\texttt{time_interpret}$.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google