SUNY: A Visual Interpretation Framework for Convolutional Neural Networks from a Necessary and Sufficient Perspective

要約

研究者は、顕著性マップを介して畳み込みニューラル ネットワーク (CNN) を視覚的に解釈するためのさまざまな方法を提案してきました。これには、主要なファミリーとしてのクラス活性化マップ (CAM) ベースのアプローチが含まれます。
ただし、内部設計ロジックに関しては、既存の CAM ベースのアプローチでは、人間が説明を理解するのに役立つ「なぜ」という中心的な質問に答える因果関係の観点が見落とされることがよくあります。
さらに、現在の CNN の説明では、望ましい説明の 2 つの補完的な側面である必要性と十分性の両方についての考慮が欠けています。
この論文では、より良い人間の理解に向けて説明を合理化するために設計された、因果関係主導のフレームワーク、SUNY を提示します。
SUNY は、CNN モデルの入力機能または内部フィルターを仮説的原因として使用して、必要な視点と十分な視点の両方で双方向の定量化によって説明を生成します。
広範な評価は、SUNY が必要性と十分性の角度からより有益で説得力のある説明を生成するだけでなく、ILSVRC2012 や CUB-200-2011 を含む大規模なデータセットで、さまざまな CNN アーキテクチャ全体で他のアプローチと競合するパフォーマンスを達成することを正当化します。

要約(オリジナル)

Researchers have proposed various methods for visually interpreting the Convolutional Neural Network (CNN) via saliency maps, which include Class-Activation-Map (CAM) based approaches as a leading family. However, in terms of the internal design logic, existing CAM-based approaches often overlook the causal perspective that answers the core ‘why’ question to help humans understand the explanation. Additionally, current CNN explanations lack the consideration of both necessity and sufficiency, two complementary sides of a desirable explanation. This paper presents a causality-driven framework, SUNY, designed to rationalize the explanations toward better human understanding. Using the CNN model’s input features or internal filters as hypothetical causes, SUNY generates explanations by bi-directional quantifications on both the necessary and sufficient perspectives. Extensive evaluations justify that SUNY not only produces more informative and convincing explanations from the angles of necessity and sufficiency, but also achieves performances competitive to other approaches across different CNN architectures over large-scale datasets, including ILSVRC2012 and CUB-200-2011.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google