Leveraging Activations for Superpixel Explanations

要約

顕著性手法は、ディープ ニューラル ネットワークの説明ツールキットの標準となっています。
画像分類器に特有の最近の開発では、新しい方法、またはアドホック スーパーピクセル アルゴリズムを使用して十分に確立された方法を適応させることによって、領域ベースの説明が研究されています。
この論文では、ネットワークを微調整することなく、ディープ ニューラル ネットワーク画像分類器の活性化からセグメンテーションを抽出することで、これらのセグメンターへの依存を回避することを目指しています。
当社のいわゆる Neuro-Activated Superpixels (NAS) は、モデルの予測に関連する入力内の関心領域を分離することができ、これにより、高しきい値の弱く監視されたオブジェクトの位置特定パフォーマンスが向上します。
このプロパティにより、顕著性メソッドの半教師あり意味論的評価が可能になります。
既存の顕著性手法を使用して NAS を集約すると、その解釈が容易になり、関連性曲線メトリックの下で広く使用されている領域の不一致が明らかになります。

要約(オリジナル)

Saliency methods have become standard in the explanation toolkit of deep neural networks. Recent developments specific to image classifiers have investigated region-based explanations with either new methods or by adapting well-established ones using ad-hoc superpixel algorithms. In this paper, we aim to avoid relying on these segmenters by extracting a segmentation from the activations of a deep neural network image classifier without fine-tuning the network. Our so-called Neuro-Activated Superpixels (NAS) can isolate the regions of interest in the input relevant to the model’s prediction, which boosts high-threshold weakly supervised object localization performance. This property enables the semi-supervised semantic evaluation of saliency methods. The aggregation of NAS with existing saliency methods eases their interpretation and reveals the inconsistencies of the widely used area under the relevance curve metric.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google