MDM:Visual Explanations for Neural Networks via Multiple Dynamic Mask

要約

ニューラルネットワークのアクティブ領域ルックアップは、ニューラルネットワークが決定を行うときにどの領域に焦点を合わせるかを示します。これにより、ニューラルネットワークが分類決定を行うときの解釈可能性の基礎が得られます。
推論プロセスの解釈可能性を備えた一般的な顕著性グラフクエリ方法であるアルゴリズムMultipleDynamicMask（MDM）を提案します。
その提案は、訓練されたニューラルネットワークに画像が入力されると、分類に関連する活性化機能がニューラルネットワークの分類結果に影響を与え、分類に関係のない機能が分類結果にほとんど影響を与えないという仮定に基づいています。
ネットワークの。
MDM：ニューラルネットワーク分類の対象領域を見つけるための学習ベースのエンドツーエンドアルゴリズム。
これには次の利点があります。1。推論プロセスの解釈可能性があります。
2.それは普遍的であり、あらゆるニューラルネットワークに使用でき、ニューラルネットワークの内部構造に依存しません。
3.検索パフォーマンスが向上します。
アルゴリズムはマスクを生成する学習に基づいており、さまざまなデータやネットワークに適応する能力があるため、パフォーマンスは前の論文で提案された方法よりも優れています。
MDM顕著性マップ検索アルゴリズムでは、さまざまな顕著性マップ検索方法のパフォーマンス指標と、トレーニング済みニューラルネットワークとしてResNetおよびDenseNetを使用したMDMを実験的に比較しました。
MDMの検索効果のパフォーマンスは最先端に達しました。
MDMを解釈可能なニューラルネットワークProtoPNetとXProtoNetに適用しました。これにより、モデルの解釈可能性とプロトタイプの検索パフォーマンスが向上しました。
顕著性マップ検索で畳み込みニューラルアーキテクチャとTransformerアーキテクチャのパフォーマンスを視覚化します。

要約(オリジナル)

The active region lookup of a neural network tells us which regions the neural network focuses on when making a decision, which gives us a basis for interpretability when the neural network makes a classification decision. We propose an algorithm Multiple Dynamic Mask(MDM), which is a general saliency graph query method with interpretability of the inference process. Its proposal is based on an assumption: when a picture is input to a neural network that has been trained, the activation features related to classification will affect the classification results of the neural network, and the features unrelated to classification will hardly affect the classification results of the network. MDM: A learning-based end-to-end algorithm for finding regions of interest for neural network classification. It has the following advantages: 1. It has the interpretability of the reasoning process. 2. It is universal, it can be used for any neural network and does not depend on the internal structure of the neural network. 3. The search performance is better. Because the algorithm is based on learning to generate masks and has the ability to adapt to different data and networks, the performance is better than the method proposed in the previous paper. For the MDM saliency map search algorithm, we experimentally compared the performance indicators of various saliency map search methods and the MDM with ResNet and DenseNet as the trained neural networks. The search effect performance of the MDM reached the state of the art. We applied the MDM to the interpretable neural network ProtoPNet and XProtoNet, which improved the interpretability of the model and the prototype search performance. We visualize the performance of convolutional neural architecture and Transformer architecture on saliency map search.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google