Decomposing Global Feature Effects Based on Feature Interactions

要約

部分依存プロットなどのグローバル特徴効果手法は、予想される限界特徴効果をわかりやすく視覚化します。
ただし、このようなグローバルな特徴効果の方法は、特徴の相互作用が存在する場合、単一の観測値の局所的な特徴の効果をうまく表現できないため、誤解を招く可能性があります。
我々は、グローバル効果の一般化加法分解（GADGET）を正式に導入します。これは、局所特徴効果の相互作用に関連した不均一性が最小限に抑えられるように、特徴空間内で解釈可能な領域を見つけるための再帰的分割に基づく新しいフレームワークです。
我々は、このフレームワークの数学的基礎を提供し、それが限界特徴効果を視覚化するための最も一般的な方法、すなわち、部分依存、蓄積された局所効果、およびシャプレー加法説明 (SHAP) 依存に適用できることを示します。
さらに、私たちが提案するフレームワークに適合するあらゆる特徴効果手法に適用できる、重要な特徴の相互作用を検出するための新しい順列ベースの相互作用テストを導入して検証します。
さまざまな実験設定におけるさまざまな特徴効果手法に基づいて、提案された手法の理論的特性を経験的に評価します。
さらに、紹介した方法論を 3 つの実際の例に適用して、その有用性を示します。

要約(オリジナル)

Global feature effect methods, such as partial dependence plots, provide an intelligible visualization of the expected marginal feature effect. However, such global feature effect methods can be misleading, as they do not represent local feature effects of single observations well when feature interactions are present. We formally introduce generalized additive decomposition of global effects (GADGET), which is a new framework based on recursive partitioning to find interpretable regions in the feature space such that the interaction-related heterogeneity of local feature effects is minimized. We provide a mathematical foundation of the framework and show that it is applicable to the most popular methods to visualize marginal feature effects, namely partial dependence, accumulated local effects, and Shapley additive explanations (SHAP) dependence. Furthermore, we introduce and validate a new permutation-based interaction test to detect significant feature interactions that is applicable to any feature effect method that fits into our proposed framework. We empirically evaluate the theoretical characteristics of the proposed methods based on various feature effect methods in different experimental settings. Moreover, we apply our introduced methodology to three real-world examples to showcase their usefulness.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google