Smooth Deep Saliency

要約

この研究では、畳み込みダウンサンプリングから生じる深い顕著性マップのノイズを低減する方法を調査します。
これらの方法により、隠れ層で計算された勾配ベースの顕著性マップに対して調査されたモデルがより解釈しやすくなります。
挿入と削除のメトリクスを使用してこれらの方法の忠実性を評価し、隠れ層で計算された顕著性マップが入力層と GradCAM の両方と比較してパフォーマンスが優れていることを発見しました。
私たちは、ImageNet1K で画像分類用にトレーニングされたさまざまなモデル、Camelyon16 で腫瘍検出用にトレーニングされたモデル、および染色組織サンプルの社内の現実世界のデジタルパソロジー スキャンでアプローチをテストします。
私たちの結果は、勾配内のチェッカーボード ノイズが減少し、その結果、顕著性マップがより滑らかになり、解釈しやすくなったことを示しています。

要約(オリジナル)

In this work, we investigate methods to reduce the noise in deep saliency maps coming from convolutional downsampling. Those methods make the investigated models more interpretable for gradient-based saliency maps, computed in hidden layers. We evaluate the faithfulness of those methods using insertion and deletion metrics, finding that saliency maps computed in hidden layers perform better compared to both the input layer and GradCAM. We test our approach on different models trained for image classification on ImageNet1K, and models trained for tumor detection on Camelyon16 and in-house real-world digital pathology scans of stained tissue samples. Our results show that the checkerboard noise in the gradient gets reduced, resulting in smoother and therefore easier to interpret saliency maps.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google