Enhancing Explainable AI: A Hybrid Approach Combining GradCAM and LRP for CNN Interpretability

要約

GradCAM と LRP 手法の組み合わせを使用して、CNN ベースのモデルの出力を説明する新しい手法を紹介します。
これらの方法は両方とも、予測にとって重要な入力領域を強調表示することにより、視覚的な説明を生成します。
新しい方法では、まず GradCAM によって生成された説明を処理してノイズを除去します。
処理された出力は、要素ごとに LRP の出力と乗算されます。
最後に、ガウスぼかしが製品に適用されます。
提案された方法を、忠実性、堅牢性、複雑性、局所化、およびランダム化の指標に関して GradCAM および LRP と比較しました。
この方法は、複雑さに関しては GradCAM と LRP の両方よりも優れたパフォーマンスを示し、他のメトリクスでは少なくともいずれか 1 つよりも優れていることが観察されました。

要約(オリジナル)

We present a new technique that explains the output of a CNN-based model using a combination of GradCAM and LRP methods. Both of these methods produce visual explanations by highlighting input regions that are important for predictions. In the new method, the explanation produced by GradCAM is first processed to remove noises. The processed output is then multiplied elementwise with the output of LRP. Finally, a Gaussian blur is applied on the product. We compared the proposed method with GradCAM and LRP on the metrics of Faithfulness, Robustness, Complexity, Localisation and Randomisation. It was observed that this method performs better on Complexity than both GradCAM and LRP and is better than atleast one of them in the other metrics.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google