DSEG-LIME — Improving Image Explanation by Hierarchical Data-Driven Segmentation

要約

説明可能な人工知能は、複雑な機械学習モデルにおける意思決定プロセスを解明する上で重要です。
LIME (Local Interpretable Model-agnostic Explains) は、画像分析用のよく知られた XAI フレームワークです。
画像セグメンテーションを利用して特徴を作成し、分類に関連する領域を特定します。
その結果、セグメント化が不十分だと説明の一貫性が損なわれ、セグメントの重要性が損なわれ、全体的な解釈可能性に影響を与える可能性があります。
これらの課題に対処するために、私たちは、i) 人間が認識する特徴生成のためのデータ駆動型セグメンテーション、および ii) 合成による階層的セグメンテーション手順を特徴とする DSEG-LIME (データ駆動型セグメンテーション LIME) を導入します。
ImageNet データセットの画像を使用した事前トレーニング済みモデルで DSEG-LIME のベンチマークを行います。これは、ドメイン固有の知識がないシナリオです。
分析には、確立された XAI メトリクスを使用した定量的評価が含まれており、ユーザー調査による定性的評価によって補完されます。
私たちの調査結果は、DSEG がほとんどの XAI メトリクスで優れたパフォーマンスを示し、人間が認識する概念との説明の整合性を強化し、解釈可能性を大幅に向上させることを示しています。
コードは https://github で入手できます。
com/patrick-knab/DSEG-LIME

要約(オリジナル)

Explainable Artificial Intelligence is critical in unraveling decision-making processes in complex machine learning models. LIME (Local Interpretable Model-agnostic Explanations) is a well-known XAI framework for image analysis. It utilizes image segmentation to create features to identify relevant areas for classification. Consequently, poor segmentation can compromise the consistency of the explanation and undermine the importance of the segments, affecting the overall interpretability. Addressing these challenges, we introduce DSEG-LIME (Data-Driven Segmentation LIME), featuring: i) a data-driven segmentation for human-recognized feature generation, and ii) a hierarchical segmentation procedure through composition. We benchmark DSEG-LIME on pre-trained models with images from the ImageNet dataset – scenarios without domain-specific knowledge. The analysis includes a quantitative evaluation using established XAI metrics, complemented by a qualitative assessment through a user study. Our findings demonstrate that DSEG outperforms in most of the XAI metrics and enhances the alignment of explanations with human-recognized concepts, significantly improving interpretability. The code is available under: https://github. com/patrick-knab/DSEG-LIME

arxiv情報

提供元, 利用サービス

arxiv.jp, Google