CF-CAM: Cluster Filter Class Activation Mapping for Reliable Gradient-Based Interpretability

要約

深い学習が進行し続けるにつれて、ニューラルネットワークの意思決定の透明性は依然として重要な課題であり、ハイステークスドメインでの信頼と適用性を制限しています。
クラスのアクティベーションマッピング（CAM）技術は、モデルの決定を視覚化するための重要なアプローチとして浮上していますが、既存の方法は固有のトレードオフに直面しています。
勾配ベースのCAMバリアントは、勾配ノイズによる勾配摂動に対する感度に悩まされ、不安定で信頼できない説明につながります。
逆に、勾配のないアプローチは勾配の不安定性を緩和しますが、重要な計算オーバーヘッドと推論の潜在性が発生します。
これらの制限に対処するために、クラスターフィルタークラスアクティベーションマップ（CF-CAM）手法を提案します。これは、グラデーションベースの重み付けを再導入しながら勾配ノイズに対する堅牢性を高める新しいフレームワークです。
CF-CAMは、階層的な重要性の重み付け戦略を利用して、識別機能の保存とノイズの排除のバランスをとります。
ノイズ（DBSCAN）グループを使用したアプリケーションの密度ベースの空間クラスタリングを介した密度認識チャネルクラスタリング法（DBSCAN）は、意味的に関連する特徴チャネルをグループ化し、ノイズが発生しやすいアクティブ化を破棄します。
さらに、クラスター条件付き勾配フィルタリングレバレッジガウスフィルターをレバレッジして勾配信号を改良し、ノイズの影響を抑制しながらエッジが意識したローカリゼーションを維持します。
実験結果は、CF-CAMが計算効率を高めながら、忠実さと堅牢性の最先端のCAMメソッドを上回りながら、優れた解釈可能性パフォーマンスを達成することを示しています。
過度の計算コストなしで勾配の不安定性を効果的に緩和することにより、CF-CAMは、自律運転や医療診断などの重要なアプリケーションで深いニューラルネットワークの解釈可能性を高めるための競合ソリューションを提供します。

要約(オリジナル)

As deep learning continues to advance, the transparency of neural network decision-making remains a critical challenge, limiting trust and applicability in high-stakes domains. Class Activation Mapping (CAM) techniques have emerged as a key approach toward visualizing model decisions, yet existing methods face inherent trade-offs. Gradient-based CAM variants suffer from sensitivity to gradient perturbations due to gradient noise, leading to unstable and unreliable explanations. Conversely, gradient-free approaches mitigate gradient instability but incur significant computational overhead and inference latency. To address these limitations, we propose a Cluster Filter Class Activation Map (CF-CAM) technique, a novel framework that reintroduces gradient-based weighting while enhancing robustness against gradient noise. CF-CAM utilizes hierarchical importance weighting strategy to balance discriminative feature preservation and noise elimination. A density-aware channel clustering method via Density-Based Spatial Clustering of Applications with Noise (DBSCAN) groups semantically relevant feature channels and discard noise-prone activations. Additionally, cluster-conditioned gradient filtering leverages Gaussian filters to refine gradient signals, preserving edge-aware localization while suppressing noise impact. Experiment results demonstrate that CF-CAM achieves superior interpretability performance while enhancing computational efficiency, outperforming state-of-the-art CAM methods in faithfulness and robustness. By effectively mitigating gradient instability without excessive computational cost, CF-CAM provides a competitive solution for enhancing the interpretability of deep neural networks in critical applications such as autonomous driving and medical diagnosis.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google