Feature Importance versus Feature Influence and What It Signifies for Explainable AI

要約

意思決定理論のコンテキストで使用される場合、特徴の重要度は、他の特徴と比較して、特徴の値を変更することでモデルの結果 (または結果の有用性) がどの程度変化するかを表します。
特徴の重要性を、ほとんどの最先端のポストホック Explainable AI 手法で使用される特徴の影響と混同しないでください。
機能の重要性とは対照的に、機能の影響は参照レベルまたはベースラインに対して測定されます。
Contextual Importance and Utility (CIU) メソッドは、事後的な説明にも適用できるグローバルおよびローカルの特徴の重要性の統一された定義を提供します。値の効用の概念は、特徴の値がオブジェクトにとってどの程度好ましいかどうかのインスタンス レベルの評価を提供します。
結果。
この論文では、CIU がグローバルとローカルの両方の説明可能性にどのように適用できるかを示し、さまざまな方法の忠実性と安定性を評価し、文脈上の重要性と文脈上の有用性を使用した説明が影響のみを使用した場合よりも表現力豊かで柔軟な説明をどのように提供できるかを示しています。

要約(オリジナル)

When used in the context of decision theory, feature importance expresses how much changing the value of a feature can change the model outcome (or the utility of the outcome), compared to other features. Feature importance should not be confused with the feature influence used by most state-of-the-art post-hoc Explainable AI methods. Contrary to feature importance, feature influence is measured against a reference level or baseline. The Contextual Importance and Utility (CIU) method provides a unified definition of global and local feature importance that is applicable also for post-hoc explanations, where the value utility concept provides instance-level assessment of how favorable or not a feature value is for the outcome. The paper shows how CIU can be applied to both global and local explainability, assesses the fidelity and stability of different methods, and shows how explanations that use contextual importance and contextual utility can provide more expressive and flexible explanations than when using influence only.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google