A Refutation of Shapley Values for Explainability

要約

最近の研究では、シャプレー値がルールベースの説明における特徴の相対的な重要性について誤解を招く情報を提供するブール関数の存在を実証しました。
このような誤解を招く情報は、考えられる多数の問題に大別されました。
これらの問題はそれぞれ、予測に関連する特徴または無関係な特徴に関連しており、ルールベースの説明可能性に対する Shapley 値の不適切さに関してすべて重要です。
この初期の研究では、少数の特徴で定義されたブール関数と、そのような不適切性を明らかにする問題を示した関連するインスタンスを識別するための総当りアプローチが考案され、ルールベースの説明可能性に対するシャプレー値の不適切性の証拠として役立ちました。
。
ただし、未解決の疑問は、任意の多数の特徴を持つブール関数に対して、このような不適切性を明らかにする問題がどのくらいの頻度で発生する可能性があるかということです。
強引なアプローチでは、この問題への対処方法についての洞察が得られそうにないことは明らかです。
この論文は、任意の数の特徴に対して、1 つまたは複数の不適切性を明らかにする問題を示すブール関数が存在することを証明することで、上記の疑問に答えます。これにより、特徴帰属手法の理論的基礎としてシャプレー値を使用することに対する決定的な議論に貢献します。
説明可能性。

要約(オリジナル)

Recent work demonstrated the existence of Boolean functions for which Shapley values provide misleading information about the relative importance of features in rule-based explanations. Such misleading information was broadly categorized into a number of possible issues. Each of those issues relates with features being relevant or irrelevant for a prediction, and all are significant regarding the inadequacy of Shapley values for rule-based explainability. This earlier work devised a brute-force approach to identify Boolean functions, defined on small numbers of features, and also associated instances, which displayed such inadequacy-revealing issues, and so served as evidence to the inadequacy of Shapley values for rule-based explainability. However, an outstanding question is how frequently such inadequacy-revealing issues can occur for Boolean functions with arbitrary large numbers of features. It is plain that a brute-force approach would be unlikely to provide insights on how to tackle this question. This paper answers the above question by proving that, for any number of features, there exist Boolean functions that exhibit one or more inadequacy-revealing issues, thereby contributing decisive arguments against the use of Shapley values as the theoretical underpinning of feature-attribution methods in explainability.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google