A Survey on Machine Learning from Few Samples

要約

機械学習の分野では、少数サンプル学習 (FSL) が重要であり、挑戦的です。
非常に少数のサンプルから正常に学習および一般化する能力は、人工知能と人間の知能を区別する顕著な境界線です。なぜなら、機械学習アルゴリズムは通常、数百または数千の教師付きサンプルを必要とするのに対し、人間は 1 つまたは少数の例から新規性に対する認識を容易に確立できるからです。
一般化能力を保証するためのサンプル。
2000 年代初頭にまでさかのぼる長い歴史と、近年の深層学習技術の急成長による広範な注目にもかかわらず、FSL に関する調査やレビューはこれまでほとんど利用できませんでした。
これに関連して、2000 年代から 2019 年までの FSL に関する 300 以上の論文を広範にレビューし、FSL に関するタイムリーで包括的な調査を提供します。
この調査では、進化の歴史とFSLの現在の進歩をレビューし、FSLアプローチを原則として生成モデルベースと識別モデルベースの種類に分類し、特にメタ学習ベースのFSLアプローチに重点を置きます。
また、FSL の最近出現したいくつかの拡張トピックを要約し、これらのトピックに関する最新の進歩を確認します。
さらに、コンピューター ビジョン、自然言語処理、音声と音声、強化学習とロボット、データ分析などの多くの研究ホットスポットをカバーする重要な FSL アプリケーションを強調します。
フォローアップ研究へのガイダンスと洞察を提供します。

要約(オリジナル)

Few sample learning (FSL) is significant and challenging in the field of machine learning. The capability of learning and generalizing from very few samples successfully is a noticeable demarcation separating artificial intelligence and human intelligence since humans can readily establish their cognition to novelty from just a single or a handful of examples whereas machine learning algorithms typically entail hundreds or thousands of supervised samples to guarantee generalization ability. Despite the long history dated back to the early 2000s and the widespread attention in recent years with booming deep learning technologies, little surveys or reviews for FSL are available until now. In this context, we extensively review 300+ papers of FSL spanning from the 2000s to 2019 and provide a timely and comprehensive survey for FSL. In this survey, we review the evolution history as well as the current progress on FSL, categorize FSL approaches into the generative model based and discriminative model based kinds in principle, and emphasize particularly on the meta learning based FSL approaches. We also summarize several recently emerging extensional topics of FSL and review the latest advances on these topics. Furthermore, we highlight the important FSL applications covering many research hotspots in computer vision, natural language processing, audio and speech, reinforcement learning and robotic, data analysis, etc. Finally, we conclude the survey with a discussion on promising trends in the hope of providing guidance and insights to follow-up researches.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google