S3C: Self-Supervised Stochastic Classifiers for Few-Shot Class-Incremental Learning

要約

少数ショットクラス増分学習 (FSCIL) は、すでに学習したクラスの知識を忘れることなく、ラベル付きサンプルが非常に少ない新しいクラスについて段階的に学習することを目的としています。
FSCIL は 2 つの大きな課題に悩まされています。(i) データ量が限られているため、新しいクラスに過剰適合してしまうこと、(ii) 増分段階でこれらのクラスからのデータが利用できないため、古いクラスが壊滅的に忘れられてしまうことです。
この研究では、FSCIL におけるこれら両方の課題に対処するために、自己教師あり確率分類器 (S3C) を提案します。
分類器の重み (またはクラス プロトタイプ) の確率性により、新しいクラスの多数のサンプルが存在しないことによる悪影響が軽減されるだけでなく、増分ステップ中に以前に学習されたクラスからのサンプルが存在しないことも軽減されます。
これは自己監視コンポーネントによって補完されます。これは、将来遭遇するまだ見ぬクラスによく一般化する基本クラスからの機能を学習するのに役立ち、致命的な忘却を減らします。
複数の評価指標を使用した 3 つのベンチマーク データセットに対する広範な評価により、提案されたフレームワークの有効性が示されています。
また、FSCIL の 2 つの追加の現実的なシナリオ、つまり、新しいクラスごとに利用できる注釈付きデータの数が異なる場合と、基本クラスの数が大幅に少ない場合について実験し、提案された S3C のパフォーマンスが大幅に向上することを示します。
これらすべての困難なシナリオに対応する最先端のものよりも優れています。

要約(オリジナル)

Few-shot class-incremental learning (FSCIL) aims to learn progressively about new classes with very few labeled samples, without forgetting the knowledge of already learnt classes. FSCIL suffers from two major challenges: (i) over-fitting on the new classes due to limited amount of data, (ii) catastrophically forgetting about the old classes due to unavailability of data from these classes in the incremental stages. In this work, we propose a self-supervised stochastic classifier (S3C) to counter both these challenges in FSCIL. The stochasticity of the classifier weights (or class prototypes) not only mitigates the adverse effect of absence of large number of samples of the new classes, but also the absence of samples from previously learnt classes during the incremental steps. This is complemented by the self-supervision component, which helps to learn features from the base classes which generalize well to unseen classes that are encountered in future, thus reducing catastrophic forgetting. Extensive evaluation on three benchmark datasets using multiple evaluation metrics show the effectiveness of the proposed framework. We also experiment on two additional realistic scenarios of FSCIL, namely where the number of annotated data available for each of the new classes can be different, and also where the number of base classes is much lesser, and show that the proposed S3C performs significantly better than the state-of-the-art for all these challenging scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google