Steering Prototypes with Prompt-tuning for Rehearsal-free Continual Learning

要約

継続的な学習のコンテキストでは、代表的なクラスの埋め込みとしてのプロトタイプは、記憶の保存と壊滅的な忘却の軽減に利点をもたらします。
ただし、セマンティック ドリフトとプロトタイプの干渉に関連する課題は依然として残っています。
この研究では、Contrastive Prototypical Prompt (CPP) アプローチを導入します。
対照的な学習目標に裏付けられたタスク固有の即時調整を通じて、前述の両方の課題に効果的に対処します。
4 つの困難なクラス増分ベンチマークに関する評価では、CPP が最先端の手法と比較して 4% ～ 6% の大幅な改善を達成していることが明らかになりました。
重要なのは、CPP はリハーサル バッファなしで動作し、継続的共同学習とオフライン共同学習の間のパフォーマンスの差異を狭め、Transformer ベースの継続的学習システムの革新的なスキームを示唆していることです。

要約(オリジナル)

In the context of continual learning, prototypes-as representative class embeddings-offer advantages in memory conservation and the mitigation of catastrophic forgetting. However, challenges related to semantic drift and prototype interference persist. In this study, we introduce the Contrastive Prototypical Prompt (CPP) approach. Through task-specific prompt-tuning, underpinned by a contrastive learning objective, we effectively address both aforementioned challenges. Our evaluations on four challenging class-incremental benchmarks reveal that CPP achieves a significant 4% to 6% improvement over state-of-the-art methods. Importantly, CPP operates without a rehearsal buffer and narrows the performance divergence between continual and offline joint-learning, suggesting an innovative scheme for Transformer-based continual learning systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google