MDM:Visual Explanations for Neural Networks via Multiple Dynamic Mask

要約

ニューラルネットワークのクラスアクティベーションマップ（CAM）ルックアップは、決定を行うときにニューラルネットワークがどの領域に焦点を合わせているかを教えてくれます。
推論プロセス。
アルゴリズムは、訓練されたニューラルネットワークに画像が入力されると、分類に関連するアクティベーション機能のみがニューラルネットワークの分類結果に影響を与え、分類に関係のない機能は、の分類結果にほとんど影響を与えないという仮定に基づいています。
通信網。
MDM：ニューラルネットワーク分類の関心領域を見つけるための学習ベースのエンドツーエンドアルゴリズム。次の利点があります。1。推論プロセスの解釈可能性があり、推論プロセスは人間の認知に準拠しています。
2.それは普遍的であり、あらゆるニューラルネットワークに使用でき、ニューラルネットワークの内部構造に依存しません。
3.検索パフォーマンスが向上します。
アルゴリズムは学習に基づいており、さまざまなデータやネットワークに適応する機能があります。
パフォーマンスは、前の論文で提案された方法よりも優れています。
MDM顕著性マップ検索アルゴリズムでは、トレーニング済みニューラルネットワークとしてResNetとDenseNetを実験的に比較しました。
最近の高度な顕著性マップ検索方法と、各検索効果項目のパフォーマンス指標に関するMDMの結果により、MDMのパフォーマンスは最先端に達しました。
MDMメソッドを解釈可能なニューラルネットワークProtoPNetおよびXProtoNetに適用しました。これにより、モデルの解釈可能性のプロトタイプ検索パフォーマンスが向上しました。
また、顕著性マップ検索における畳み込みニューラルアーキテクチャとTransformerアーキテクチャの効果を視覚化し、MDMの解釈可能性と一般性を示します。

要約(オリジナル)

The Class Activation Maps(CAM) lookup of a neural network can tell us what regions the neural network is focusing on when making a decision.We propose an algorithm Multiple Dynamic Mask (MDM), which is a general saliency graph query method with interpretability of inference process. The algorithm is based on an assumption: when a picture is input into a trained neural network, only the activation features related to classification will affect the classification results of the neural network, and the features unrelated to classification will hardly affect the classification results of the network. MDM: A learning-based end-to-end algorithm for finding regions of interest for neural network classification.It has the following advantages: 1. It has the interpretability of the reasoning process, and the reasoning process conforms to human cognition. 2. It is universal, it can be used for any neural network and does not depend on the internal structure of the neural network. 3. The search performance is better. The algorithm is based on learning and has the ability to adapt to different data and networks. The performance is better than the method proposed in the previous paper. For the MDM saliency map search algorithm, we experimentally compared ResNet and DenseNet as the trained neural network. The recent advanced saliency map search method and the results of MDM on the performance indicators of each search effect item, the performance of MDM has reached the state of the art. We applied the MDM method to the interpretable neural network ProtoPNet and XProtoNet, which improved the model’s interpretability prototype search performance. And we visualize the effect of convolutional neural architecture and Transformer architecture in saliency map search, illustrating the interpretability and generality of MDM.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google