ImbSAM: A Closer Look at Sharpness-Aware Minimization in Class-Imbalanced Recognition

要約

クラスの不均衡は、大部分のクラス (末尾クラスとも呼ばれる) のサンプルが少ない、現実世界の認識タスクにおける一般的な課題です。
私たちは一般化の観点からこの課題に取り組み、有望なシャープネス認識最小化 (SAM) がクラス不均衡設定の下では一般化の問題に対処できないことを経験的に発見しました。
この特定のタイプのタスクを調査することにより、その一般化のボトルネックが主に限られたトレーニング データによる末尾クラスの深刻な過剰適合にあることがわかりました。
このボトルネックを克服するために、クラス事前分布を利用してクラスに依存しない SAM の汎化範囲を制限し、Imbalance-SAM (ImbSAM) というクラス認識の滑らかさ最適化アルゴリズムを提案します。
クラス事前の指導により、私たちの ImbSAM は特に末尾クラスを対象とした汎化を改善します。
また、クラス不均衡認識の 2 つの典型的なアプリケーションであるロングテール分類と半教師あり異常検出に対する ImbSAM の有効性も検証します。ここで、私たちの ImbSAM は、テールクラスと異常に対して顕著なパフォーマンスの向上を示しています。
私たちのコード実装は https://github.com/cool-xuan/Imbalance_SAM で入手できます。

要約(オリジナル)

Class imbalance is a common challenge in real-world recognition tasks, where the majority of classes have few samples, also known as tail classes. We address this challenge with the perspective of generalization and empirically find that the promising Sharpness-Aware Minimization (SAM) fails to address generalization issues under the class-imbalanced setting. Through investigating this specific type of task, we identify that its generalization bottleneck primarily lies in the severe overfitting for tail classes with limited training data. To overcome this bottleneck, we leverage class priors to restrict the generalization scope of the class-agnostic SAM and propose a class-aware smoothness optimization algorithm named Imbalanced-SAM (ImbSAM). With the guidance of class priors, our ImbSAM specifically improves generalization targeting tail classes. We also verify the efficacy of ImbSAM on two prototypical applications of class-imbalanced recognition: long-tailed classification and semi-supervised anomaly detection, where our ImbSAM demonstrates remarkable performance improvements for tail classes and anomaly. Our code implementation is available at https://github.com/cool-xuan/Imbalanced_SAM.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google