Understanding Open-Set Recognition by Jacobian Norm and Inter-Class Separation

要約

オープンセット認識 (OSR) に関する調査結果は、分類データセットでトレーニングされたモデルが、トレーニング プロセス中に遭遇しなかった未知のクラスを検出できることを示しています。
具体的には、トレーニング後、既知のクラスの学習された表現が未知のクラスの表現から分離され、OSR が促進されます。
この論文では、表現のヤコビアン規範とクラス間/クラス内の学習ダイナミクスとの関係を調べることによって、この新たな現象を調査します。
我々は、未知のサンプルに直接さらされていない場合でも、クラス内学習は既知のクラスサンプルのヤコビアンノルムを減少させる一方、クラス間学習は未知のサンプルのヤコビアンノルムを増加させることを実証する理論的分析を提供します。
全体として、既知のクラスと未知のクラス間のヤコビアン ノルムの不一致により、OSR が可能になります。
クラス間学習の極めて重要な役割を強調するこの洞察に基づいて、クラス間の強力な分離を促進する限界 1 対残り (m-OvR) 損失関数を考案します。
OSR パフォーマンスをさらに向上させるために、m-OvR 損失をヤコビアン ノルムの差異を最大化する追加の戦略と統合します。
我々は、理論的観察を裏付け、我々が提案する OSR アプローチの有効性を実証する包括的な実験結果を提示します。

要約(オリジナル)

The findings on open-set recognition (OSR) show that models trained on classification datasets are capable of detecting unknown classes not encountered during the training process. Specifically, after training, the learned representations of known classes dissociate from the representations of the unknown class, facilitating OSR. In this paper, we investigate this emergent phenomenon by examining the relationship between the Jacobian norm of representations and the inter/intra-class learning dynamics. We provide a theoretical analysis, demonstrating that intra-class learning reduces the Jacobian norm for known class samples, while inter-class learning increases the Jacobian norm for unknown samples, even in the absence of direct exposure to any unknown sample. Overall, the discrepancy in the Jacobian norm between the known and unknown classes enables OSR. Based on this insight, which highlights the pivotal role of inter-class learning, we devise a marginal one-vs-rest (m-OvR) loss function that promotes strong inter-class separation. To further improve OSR performance, we integrate the m-OvR loss with additional strategies that maximize the Jacobian norm disparity. We present comprehensive experimental results that support our theoretical observations and demonstrate the efficacy of our proposed OSR approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google