CADet: Fully Self-Supervised Anomaly Detection With Contrastive Learning

要約

分布外（OOD）サンプルの取り扱いは、機械学習システムの実世界への展開において大きな課題となっている。この研究では、未知のクラスと敵対的摂動という2種類のOODサンプルを同時に検出するための自己教師付き対比学習の適用を探求している。実際にはこのようなサンプルの分布は事前に分からないため、OODサンプルへのアクセスは想定していない。我々は、対比学習により学習した類似性関数を最大平均不一致（MMD）2標本検定に利用することで、2つの独立した標本集合が同じ分布から引かれているかどうかを検証することができることを示す。このアプローチに触発され、我々はCADet (Contrastive Anomaly Detection) を導入する。これは、画像補強に基づき、単一標本の異常検出を行う方法である。CADetは、ImageNet上で敵対的に摂動されたサンプルを検出するために、敵対的検出法と比較し、良好な結果を得ることができる。同時に，ImageNet-OとiNaturalistという2つの困難なベンチマークにおいて，未見ラベル検出手法と同等の性能を達成する．CADetは完全に自己教師型であり，分布内サンプルのラベルもOOD例へのアクセスも必要としない．

要約(オリジナル)

Handling out-of-distribution (OOD) samples has become a major stake in the real-world deployment of machine learning systems. This work explores the application of self-supervised contrastive learning to the simultaneous detection of two types of OOD samples: unseen classes and adversarial perturbations. Since in practice the distribution of such samples is not known in advance, we do not assume access to OOD examples. We show that similarity functions trained with contrastive learning can be leveraged with the maximum mean discrepancy (MMD) two-sample test to verify whether two independent sets of samples are drawn from the same distribution. Inspired by this approach, we introduce CADet (Contrastive Anomaly Detection), a method based on image augmentations to perform anomaly detection on single samples. CADet compares favorably to adversarial detection methods to detect adversarially perturbed samples on ImageNet. Simultaneously, it achieves comparable performance to unseen label detection methods on two challenging benchmarks: ImageNet-O and iNaturalist. CADet is fully self-supervised and requires neither labels for in-distribution samples nor access to OOD examples.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL