What You See is What You Classify: Black Box Attributions

要約

深層画像分類器を説明するための重要なステップは、モデルの出力で個々のクラス スコアに寄与する画像領域を特定することにあります。
ただし、このようなネットワークのブラックボックスの性質により、これを正確に行うのは困難な作業です。
ほとんどの既存のアプローチは、活性化と勾配を使用するか、入力を繰り返し摂動することによって、そのような属性を見つけます。
代わりに、2 番目のディープ ネットワークである Explainer をトレーニングして、事前トレーニング済みのブラック ボックス分類器である Explanandum の属性を予測することで、この課題に対処します。
これらの属性は、画像の分類子に関連する部分のみを表示し、残りをマスクするマスクの形式で提供されます。
私たちのアプローチは、他の方法で生成された顕著性マップと比較して、よりシャープで境界精度の高いマスクを生成します。
さらに、ほとんどの既存のアプローチとは異なり、私たちのアプローチは、単一のフォワード パスで非常に明確なクラス固有のマスクを直接生成できます。
これにより、提案された方法は推論中に非常に効率的になります。
PASCAL VOC-2007 および Microsoft COCO-2014 データセットに関して、私たちの帰属が確立された方法よりも視覚的にも定量的にも優れていることを示します。

要約(オリジナル)

An important step towards explaining deep image classifiers lies in the identification of image regions that contribute to individual class scores in the model’s output. However, doing this accurately is a difficult task due to the black-box nature of such networks. Most existing approaches find such attributions either using activations and gradients or by repeatedly perturbing the input. We instead address this challenge by training a second deep network, the Explainer, to predict attributions for a pre-trained black-box classifier, the Explanandum. These attributions are provided in the form of masks that only show the classifier-relevant parts of an image, masking out the rest. Our approach produces sharper and more boundary-precise masks when compared to the saliency maps generated by other methods. Moreover, unlike most existing approaches, ours is capable of directly generating very distinct class-specific masks in a single forward pass. This makes the proposed method very efficient during inference. We show that our attributions are superior to established methods both visually and quantitatively with respect to the PASCAL VOC-2007 and Microsoft COCO-2014 datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google