Unifying Feature-Based Explanations with Functional ANOVA and Cooperative Game Theory

要約

摂動または勾配を使用した機能ベースの説明は、ブラックボックス機械学習モデルの決定を理解するための一般的なツールです。
しかし、これらの方法の違いはまだほとんど不明のままであり、実践者への適用性を制限します。
この作業では、2つの確立された概念を使用して、ローカルおよびグローバルな機能ベースの説明のための統合フレームワークを紹介します。統計からの機能的ANOVA（FANOVA）、および協同ゲーム理論からの価値と相互作用の概念です。
特徴分布の影響を決定する3つのFanova分解を導入し、Shapleyの値や相互作用などのゲーム理論測定を使用して、高次の相互作用の影響を指定します。
私たちのフレームワークは、これらの2つの次元を組み合わせて、機能の特徴とグループのグループの幅広い説明技術の類似点と相違点を明らかにします。
次に、合成および実世界のデータセットに関するフレームワークの有用性を経験的に紹介します。

要約(オリジナル)

Feature-based explanations, using perturbations or gradients, are a prevalent tool to understand decisions of black box machine learning models. Yet, differences between these methods still remain mostly unknown, which limits their applicability for practitioners. In this work, we introduce a unified framework for local and global feature-based explanations using two well-established concepts: functional ANOVA (fANOVA) from statistics, and the notion of value and interaction from cooperative game theory. We introduce three fANOVA decompositions that determine the influence of feature distributions, and use game-theoretic measures, such as the Shapley value and interactions, to specify the influence of higher-order interactions. Our framework combines these two dimensions to uncover similarities and differences between a wide range of explanation techniques for features and groups of features. We then empirically showcase the usefulness of our framework on synthetic and real-world datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google