SHAP-IQ: Unified Approximation of any-order Shapley Interactions

要約

主に説明可能な人工知能 (XAI) 研究では、ブラック ボックス モデルの特徴重要度スコアを決定するためにシャプレー値 (SV) が適用されます。
Shapley 相互作用インデックスは SV を拡張して、任意の次数の特徴相互作用スコアを定義します。
固有のシャプレー相互作用指数の定義は未解決の研究課題であり、これまでに 3 つの定義が提案されていますが、それらは公理の選択によって異なります。
さらに、各定義には特定の近似手法が必要です。
ここでは、任意の基本相互作用指数 (CII)、つまり線形性、対称性、およびダミー公理を満たす相互作用指数に対する Shapley 相互作用を計算するための効率的なサンプリング ベースの近似器である SHAPley Interaction Quantification (SHAP-IQ) を提案します。
SHAP-IQ は新しい表現に基づいており、既存の方法とは対照的に、その近似品質の理論的保証と点推定の分散の推定を提供します。
SV の特殊なケースでは、私たちのアプローチは SV の新しい表現を明らかにし、非常に単純化された計算で Unbiased KernelSHAP に対応します。
言語、画像分類、高次元合成モデルを説明することで、計算の効率と有効性を示します。

要約(オリジナル)

Predominately in explainable artificial intelligence (XAI) research, the Shapley value (SV) is applied to determine feature importance scores for any black box model. Shapley interaction indices extend the SV to define any-order feature interaction scores. Defining a unique Shapley interaction index is an open research question and, so far, three definitions have been proposed, which differ by their choice of axioms. Moreover, each definition requires a specific approximation technique. Here, we propose SHAPley Interaction Quantification (SHAP-IQ), an efficient sampling-based approximator to compute Shapley interactions for arbitrary cardinal interaction indices (CII), i.e. interaction indices that satisfy the linearity, symmetry and dummy axiom. SHAP-IQ is based on a novel representation and, in contrast to existing methods, we provide theoretical guarantees for its approximation quality, as well as estimates for the variance of the point estimates. For the special case of SV, our approach reveals a novel representation of the SV and corresponds to Unbiased KernelSHAP with a greatly simplified calculation. We illustrate the computational efficiency and effectiveness by explaining language, image classification and high-dimensional synthetic models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google