A Survey on Few-Shot Class-Incremental Learning

要約

タイトル: 小規模サンプルのクラス増分学習に関する調査
要約:
– 大型深層学習モデルは素晴らしいが、リアルタイムデータが利用できない場合に苦労する。 Few-shot class-incremental learning (FSCIL) は、前に学習したものを忘れずに新しいタスクを習得するディープニューラルネットワークの重要な課題である。
– FSCIL は、深層学習モデルのデータボリュームと取得時間の制限を克服し、機械学習モデルの実用性と適応性を改善するのに役立つ。
– この論文では、FSCILに関する包括的な調査を行っている。従来の調査とは異なり、FSCILに関する少数学習と増分学習の統合を目指して、2つの視点からFSCILの紹介に焦点を当て、30以上の理論研究と20以上の応用研究をレビューしている。
– 理論的観点からは、従来の機械学習手法、メタ学習ベースの手法、機能と特徴空間ベースの手法、リプレイベースの手法、動的ネットワーク構造ベースの手法を含む5つのサブカテゴリに分類する新しい分類方法を提供する。最近の理論研究の性能を、FSCILのベンチマークデータセットで評価している。
– 応用分野からは、FSCILは画像分類、物体検出、画像セグメンテーションなどのコンピュータビジョン分野や自然言語処理、グラフなどのさまざまな分野で印象的な成果をあげており、重要な応用分野をまとめている。
– 最後に、応用、問題設定、理論開発などの潜在的な将来の研究方向を指摘している。全体として、本論文は、FSCILの最新の進展を方法論、性能、応用の観点から包括的に分析している。

要約(オリジナル)

Large deep learning models are impressive, but they struggle when real-time data is not available. Few-shot class-incremental learning (FSCIL) poses a significant challenge for deep neural networks to learn new tasks from just a few labeled samples without forgetting the previously learned ones. This setup easily leads to catastrophic forgetting and overfitting problems, severely affecting model performance. Studying FSCIL helps overcome deep learning model limitations on data volume and acquisition time, while improving practicality and adaptability of machine learning models. This paper provides a comprehensive survey on FSCIL. Unlike previous surveys, we aim to synthesize few-shot learning and incremental learning, focusing on introducing FSCIL from two perspectives, while reviewing over 30 theoretical research studies and more than 20 applied research studies. From the theoretical perspective, we provide a novel categorization approach that divides the field into five subcategories, including traditional machine learning methods, meta-learning based methods, feature and feature space-based methods, replay-based methods, and dynamic network structure-based methods. We also evaluate the performance of recent theoretical research on benchmark datasets of FSCIL. From the application perspective, FSCIL has achieved impressive achievements in various fields of computer vision such as image classification, object detection, and image segmentation, as well as in natural language processing and graph. We summarize the important applications. Finally, we point out potential future research directions, including applications, problem setups, and theory development. Overall, this paper offers a comprehensive analysis of the latest advances in FSCIL from a methodological, performance, and application perspective.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI