Guided AbsoluteGrad: Magnitude of Gradients Matters to Explanation’s Localization and Saliency

要約

この論文では、顕著性マップの説明のために、Guided AbsoluteGrad と呼ばれる新しい勾配ベースの XAI 手法を提案します。
正と負の両方の勾配の大きさを利用し、勾配の分散を使用してノイズ控除の重要な領域を区別します。
また、説明のローカリゼーションと視覚的ノイズ レベルの目標を考慮する、ReCover And Predict (RCAP) という新しい評価指標も導入します。
これら 2 つの目的に対して 2 つの命題を提案し、それらを評価する必要性を証明します。
RCAP メトリクスとその他の SOTA メトリクスを使用した 7 つの勾配ベースの XAI メソッドで Guided AbsoluteGrad を 3 つのケース スタディで評価します。(1) ResNet50 モデルを使用した ImageNet データセット。
(2) EfficientNet モデルを使用した International Skin Imaging Collaboration (ISIC) データセット。
(3) DenseNet161 モデルを使用した Places365 データセット。
私たちの方法は他の勾配ベースのアプローチを上回り、勾配の大きさを通じて強化された顕著性マップの説明の品質を示します。

要約(オリジナル)

This paper proposes a new gradient-based XAI method called Guided AbsoluteGrad for saliency map explanations. We utilize both positive and negative gradient magnitudes and employ gradient variance to distinguish the important areas for noise deduction. We also introduce a novel evaluation metric named ReCover And Predict (RCAP), which considers the Localization and Visual Noise Level objectives of the explanations. We propose two propositions for these two objectives and prove the necessity of evaluating them. We evaluate Guided AbsoluteGrad with seven gradient-based XAI methods using the RCAP metric and other SOTA metrics in three case studies: (1) ImageNet dataset with ResNet50 model; (2) International Skin Imaging Collaboration (ISIC) dataset with EfficientNet model; (3) the Places365 dataset with DenseNet161 model. Our method surpasses other gradient-based approaches, showcasing the quality of enhanced saliency map explanations through gradient magnitude.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google