Semantic Shift Estimation via Dual-Projection and Classifier Reconstruction for Exemplar-Free Class-Incremental Learning

要約

模範を含まないクラスインクリメンタル学習（EFCIL）は、模範を保持することなく、明確なカテゴリから順次学習することを目的としていますが、学習した知識の壊滅的な忘却に容易に苦しむことを目的としています。
既存のEFCILメソッドは、忘却を軽減するために知識の蒸留を活用していますが、セマンティックシフトと決定バイアスという2つの重要な課題に依然として直面しています。
具体的には、古いタスクの埋め込みは、新しいタスクを学習した後に埋め込み空間にシフトし、分類器は新しいデータだけでトレーニングするために新しいタスクに偏り、それにより古い知識と新しい知識のバランスを妨げます。
これらの問題に対処するために、EFCILのデュアルプロジェクションシフト推定および分類器再構成（DPCR）アプローチを提案します。
DPCRは、学習可能な変換と行空間投影を組み合わせて、タスクごとの変換とカテゴリごとのシフトの両方をキャプチャするデュアルプロジェクションを介したセマンティックシフトを効果的に推定します。
さらに、意思決定バイアスを緩和するために、DPCRはリッジ回帰を使用して、再構成プロセスとして分類器トレーニングを再定式化します。
この再構成は、推定シフトでキャリブレーション後に各クラスの共分散とプロトタイプでエンコードされた以前の情報を活用し、それにより決定バイアスを減らします。
広範な実験は、さまざまなデータセットで、DPCRが古いタスクと新しいタスクのバランスを効果的にバランスさせ、最先端のEFCILメソッドを上回ることを示しています。

要約(オリジナル)

Exemplar-Free Class-Incremental Learning (EFCIL) aims to sequentially learn from distinct categories without retaining exemplars but easily suffers from catastrophic forgetting of learned knowledge. While existing EFCIL methods leverage knowledge distillation to alleviate forgetting, they still face two critical challenges: semantic shift and decision bias. Specifically, the embeddings of old tasks shift in the embedding space after learning new tasks, and the classifier becomes biased towards new tasks due to training solely with new data, thereby hindering the balance between old and new knowledge. To address these issues, we propose the Dual-Projection Shift Estimation and Classifier Reconstruction (DPCR) approach for EFCIL. DPCR effectively estimates semantic shift through a dual-projection, which combines a learnable transformation with a row-space projection to capture both task-wise and category-wise shifts. Furthermore, to mitigate decision bias, DPCR employs ridge regression to reformulate classifier training as a reconstruction process. This reconstruction exploits previous information encoded in covariance and prototype of each class after calibration with estimated shift, thereby reducing decision bias. Extensive experiments demonstrate that, across various datasets, DPCR effectively balances old and new tasks, outperforming state-of-the-art EFCIL methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google