Heatmap-based Out-of-Distribution Detection

要約

私たちの研究では、ニューラル ネットワークの出力説明問題として、分布外 (OOD) 検出を調査しています。
分布内外の画像領域を同時に視覚化しながら、OOD 画像を検出するためのヒートマップ表現を学習します。
トレーニング済みの固定された分類器が与えられた場合、デコーダー ニューラル ネットワークをトレーニングして、分類器の特徴とクラス予測に基づいて、分布内サンプルのゼロ応答ヒートマップと OOD サンプルの高応答ヒートマップを生成します。
私たちの主な革新は、OOD サンプルのヒートマップ定義にあります。これは、分布内の最も近いサンプルとの正規化された差です。
ヒートマップは、分布内サンプルと分布外サンプルを区別するためのマージンとして機能します。
私たちのアプローチは、OOD 検出のためだけでなく、入力画像の分布内外の領域を示すためにもヒートマップを生成します。
私たちの評価では、私たちのアプローチは、CIFAR-10、CIFAR-100、および Tiny ImageNet でトレーニングされた固定分類器に関する以前の作業よりも優れています。
コードは、https://github.com/jhornauer/heatmap_ood で公開されています。

要約(オリジナル)

Our work investigates out-of-distribution (OOD) detection as a neural network output explanation problem. We learn a heatmap representation for detecting OOD images while visualizing in- and out-of-distribution image regions at the same time. Given a trained and fixed classifier, we train a decoder neural network to produce heatmaps with zero response for in-distribution samples and high response heatmaps for OOD samples, based on the classifier features and the class prediction. Our main innovation lies in the heatmap definition for an OOD sample, as the normalized difference from the closest in-distribution sample. The heatmap serves as a margin to distinguish between in- and out-of-distribution samples. Our approach generates the heatmaps not only for OOD detection, but also to indicate in- and out-of-distribution regions of the input image. In our evaluations, our approach mostly outperforms the prior work on fixed classifiers, trained on CIFAR-10, CIFAR-100 and Tiny ImageNet. The code is publicly available at: https://github.com/jhornauer/heatmap_ood.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google