Multiple Different Explanations for Image Classifiers

要約

画像分類器用の既存の説明ツールは、通常、画像について 1 つの説明のみを提供します。
ただし、多くの画像では、人間と画像分類者の両方が画像ラベルについて複数の説明を受け入れます。
したがって、説明の数を 1 つだけに制限すると、分類子の動作に対する洞察が大幅に制限されます。
この論文では、特定の画像に対するブラックボックス画像分類器の出力の複数の説明を計算するためのアルゴリズムとツール REX について説明します。
私たちのアルゴリズムは、因果理論に基づいた原則的なアプローチを使用しています。
私たちはその理論的な複雑さを分析し、REX が ImageNet-mini ベンチマークでの以前の作業よりも 7 倍多くの画像で複数の説明を見つけたことを示す実験結果を提供します。

要約(オリジナル)

Existing explanation tools for image classifiers usually give only one single explanation for an image. For many images, however, both humans and image classifiers accept more than one explanation for the image label. Thus, restricting the number of explanations to just one severely limits the insight into the behavior of the classifier. In this paper, we describe an algorithm and a tool, REX, for computing multiple explanations of the output of a black-box image classifier for a given image. Our algorithm uses a principled approach based on causal theory. We analyse its theoretical complexity and provide experimental results showing that REX finds multiple explanations on 7 times more images than the previous work on the ImageNet-mini benchmark.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google