A Survey of Deep Long-Tail Classification Advancements

要約

現実世界の多くのデータ分布は均一ではありません。
その代わりに、さまざまな種類の偏った尾の長い分布が一般的に観察されます。
これは、ほとんどのアルゴリズムが均一に分散されたデータを前提とするか、均一に分散されたデータで適切に機能する機械学習にとって興味深い問題を引き起こします。
この問題は、大量のトレーニング データを必要とする現在の最先端の深層学習モデルによってさらに悪化します。
そのため、不均衡なデータからの学習は依然として困難な研究課題であり、深層学習のより現実世界への応用に向けて解決しなければならない問題です。
クラスの不均衡の状況では、分類用の標準ベンチマーク データセットの最先端 (SOTA) 精度は、CIFAR100 などのそれほど困難ではないデータセットであっても、通常 75% 未満に低下します。
それにもかかわらず、ディープラーニングのこのニッチな領域では進歩が見られます。
この目的を達成するために、この調査では、単一の数学的枠組みの下で過去数年間に行われた研究に焦点を当て、ロングテール分類の問題に対処するために提案されたさまざまな手法の分類を提供します。
また、標準的なパフォーマンス メトリクス、収束研究、特徴分布、分類子分析についても説明します。
また、さまざまな SOTA 手法のパフォーマンスを定量的に比較し、残りの課題と今後の研究の方向性について議論して調査を終了します。

要約(オリジナル)

Many data distributions in the real world are hardly uniform. Instead, skewed and long-tailed distributions of various kinds are commonly observed. This poses an interesting problem for machine learning, where most algorithms assume or work well with uniformly distributed data. The problem is further exacerbated by current state-of-the-art deep learning models requiring large volumes of training data. As such, learning from imbalanced data remains a challenging research problem and a problem that must be solved as we move towards more real-world applications of deep learning. In the context of class imbalance, state-of-the-art (SOTA) accuracies on standard benchmark datasets for classification typically fall less than 75%, even for less challenging datasets such as CIFAR100. Nonetheless, there has been progress in this niche area of deep learning. To this end, in this survey, we provide a taxonomy of various methods proposed for addressing the problem of long-tail classification, focusing on works that happened in the last few years under a single mathematical framework. We also discuss standard performance metrics, convergence studies, feature distribution and classifier analysis. We also provide a quantitative comparison of the performance of different SOTA methods and conclude the survey by discussing the remaining challenges and future research direction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google