Augmenting Softmax Information for Selective Classification with Out-of-Distribution Data

要約

分布外（OOD）データの検出は、コンピュータービジョンの深層学習の分野でますます多くの研究の注目を集めているタスクです。
ただし、検出方法のパフォーマンスは、一般に、潜在的なダウンストリームタスクを同時に考慮するのではなく、タスクに対して個別に評価されます。
この作業では、OODデータ（SCOD）の存在下での選択的分類を調べます。
つまり、OODサンプルを検出する動機は、それらを拒否して、予測の品質への影響を減らすことです。
このタスク仕様の下で、既存の事後メソッドのパフォーマンスが、OOD検出のみで評価された場合とはまったく異なることを示します。
これは、IDデータが誤って分類される場合に、分布内（ID）データをOODデータと統合することがもはや問題ではないためです。
ただし、正しい予測と誤った予測のIDデータ内の混同は望ましくありません。
また、SCODの新しい方法であるSoftmax情報保持の組み合わせ（SIRC）を提案します。これは、ソフトマックスベースの信頼スコアを機能に依存しない情報で補強し、正しいID予測と誤ったID予測の分離を犠牲にすることなくOODサンプルを識別する能力を向上させます。
多種多様なImageNetスケールのデータセットと畳み込みニューラルネットワークアーキテクチャでの実験は、SIRCがSCODのベースラインと一貫して一致またはアウトパフォームできることを示していますが、既存のOOD検出方法ではそうしていません。

要約(オリジナル)

Detecting out-of-distribution (OOD) data is a task that is receiving an increasing amount of research attention in the domain of deep learning for computer vision. However, the performance of detection methods is generally evaluated on the task in isolation, rather than also considering potential downstream tasks in tandem. In this work, we examine selective classification in the presence of OOD data (SCOD). That is to say, the motivation for detecting OOD samples is to reject them so their impact on the quality of predictions is reduced. We show under this task specification, that existing post-hoc methods perform quite differently compared to when evaluated only on OOD detection. This is because it is no longer an issue to conflate in-distribution (ID) data with OOD data if the ID data is going to be misclassified. However, the conflation within ID data of correct and incorrect predictions becomes undesirable. We also propose a novel method for SCOD, Softmax Information Retaining Combination (SIRC), that augments softmax-based confidence scores with feature-agnostic information such that their ability to identify OOD samples is improved without sacrificing separation between correct and incorrect ID predictions. Experiments on a wide variety of ImageNet-scale datasets and convolutional neural network architectures show that SIRC is able to consistently match or outperform the baseline for SCOD, whilst existing OOD detection methods fail to do so.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google