Unified Classification and Rejection: A One-versus-All Framework

要約

オープンワールドのパターン認識には、既知のクラスのパターンを分類し、あいまいで新規な (配布外 (OOD) とも呼ばれる) 入力を拒否することが含まれます。
ディープ ニューラル ネットワーク モデルは通常、閉集合分類では優れていますが、OOD の拒否ではパフォーマンスが悪くなります。
この問題に取り組むために、オープンセット認識 (OSR) または OOD の拒否/検出タスクを実行する多数の方法が設計されています。
以前の方法では、既知のクラスを分離しながら、OOD 入力のスコアを確実に低くするために、トレーニング後のスコア変換またはハイブリッド モデルを使用することがほとんどでした。
このペーパーでは、分類と OOD 拒否の両方のためのオープンセット分類器を構築するための統一フレームワークの構築を試みます。
$ K $-known-class の開集合認識を、既知クラスのサンプルのみで訓練されたモデルを使用した $ (K + 1) $-class 分類問題として定式化します。
$ K $-class 問題を $ K $ one-versus-all (OVA) バイナリ分類タスクに分解し、いくつかのパラメーターをバインドすることにより、OVA 分類器のスコアを組み合わせることで $ (K + 1) $-class 事後分類が得られることを示します。
確率により、統一されたフレームワークでの分類と OOD の拒否が可能になります。
OVA トレーニング済み分類器の閉集合分類精度を維持するために、OVA 損失とマルチクラス クロスエントロピー損失を組み合わせたハイブリッド トレーニング戦略を提案します。
OVA フレームワークとハイブリッド トレーニング戦略を、最近提案された畳み込みプロトタイプ ネットワークに実装します。
一般的な OSR および OOD 検出データセットの実験では、単一のマルチクラス分類器を使用する提案されたフレームワークが、閉集合分類、OOD 検出、および誤分類検出において競争力のあるパフォーマンスを生み出すことが実証されています。

要約(オリジナル)

Classifying patterns of known classes and rejecting ambiguous and novel (also called as out-of-distribution (OOD)) inputs are involved in open world pattern recognition. Deep neural network models usually excel in closed-set classification while performing poorly in rejecting OOD. To tackle this problem, numerous methods have been designed to perform open set recognition (OSR) or OOD rejection/detection tasks. Previous methods mostly take post-training score transformation or hybrid models to ensure low scores on OOD inputs while separating known classes. In this paper, we attempt to build a unified framework for building open set classifiers for both classification and OOD rejection. We formulate the open set recognition of $ K $-known-class as a $ (K + 1) $-class classification problem with model trained on known-class samples only. By decomposing the $ K $-class problem into $ K $ one-versus-all (OVA) binary classification tasks and binding some parameters, we show that combining the scores of OVA classifiers can give $ (K + 1) $-class posterior probabilities, which enables classification and OOD rejection in a unified framework. To maintain the closed-set classification accuracy of the OVA trained classifier, we propose a hybrid training strategy combining OVA loss and multi-class cross-entropy loss. We implement the OVA framework and hybrid training strategy on the recently proposed convolutional prototype network. Experiments on popular OSR and OOD detection datasets demonstrate that the proposed framework, using a single multi-class classifier, yields competitive performance in closed-set classification, OOD detection, and misclassification detection.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google