SENet: A Spectral Filtering Approach to Represent Exemplars for Few-shot Learning

要約

プロトタイプは、少数ショット学習のカテゴリの内部構造を表現するために広く使用されており、過学習の問題に対処するための単純な帰納的バイアスとして提案されました。
ただし、プロトタイプ表現は通常、個々のサンプルから平均化されるため、一部のクラスを適切に表現できますが、エグザンプラによってバッター表現できる他のいくつかのクラスを表現するにはアンダーフィッティングが発生します。
この問題に対処するために、この研究では、少数ショット分類のための Shrinkage Exemplar Networks (SENet) を提案します。
SENet では、カテゴリは、スペクトル フィルタリングによって平均に向かって縮小するサンプルの埋め込みによって表されます。
さらに、個々の収縮サンプルの情報を取得するために広く使用されているクロスエントロピー損失に代わる収縮サンプル損失が提案されています。
miniImageNet、tiered-ImageNet、CIFAR-FS データセットに対していくつかの実験が行われました。
実験結果は、提案した方法の有効性を示しています。

要約(オリジナル)

Prototype is widely used to represent internal structure of category for few-shot learning, which was proposed as a simple inductive bias to address the issue of overfitting. However, since prototype representation is normally averaged from individual samples, it can appropriately to represent some classes but with underfitting to represent some others that can be batter represented by exemplars. To address this problem, in this work, we propose Shrinkage Exemplar Networks (SENet) for few-shot classification. In SENet, categories are represented by the embedding of samples that shrink towards their mean via spectral filtering. Furthermore, a shrinkage exemplar loss is proposed to replace the widely used cross entropy loss for capturing the information of individual shrinkage samples. Several experiments were conducted on miniImageNet, tiered-ImageNet and CIFAR-FS datasets. The experimental results demonstrate the effectiveness of our proposed method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google