Explicit Boundary Guided Semi-Push-Pull Contrastive Learning for Better Anomaly Detection

要約

異常検知アルゴリズムの多くは、正常なサンプルの分布をモデル化し、異常を外れ値として扱うことを主眼としている。しかし、異常に関する知識がないため、モデルの識別性能が十分でない場合がある。したがって、異常値を可能な限り利用することが望まれる。しかし、学習時に少数の既知の異常を利用すると、モデルがその既知の異常に偏り、未知の異常に対する汎化ができなくなる可能性があるという別の問題が発生する。本論文では、慎重に設計された明示的な境界誘導型セミプッシュプル学習戦略を用いて、少数の既知の異常を利用することを目指す。我々のモデルは2つのコアデザインに基づいている。まず、コントラスト学習のためのガイダンスとして、1つの明示的な分離境界を見出す。具体的には、正規化フローを用いて通常の特徴量分布を学習し、その分布の端に近い明示的な分離境界を求める。得られた明示的かつコンパクトな分離境界は、正規の特徴量分布にのみ依存するため、少数の既知の異常による偏りの問題を軽減することが可能である。第二に、明示的な分離境界の導きのもとで、より識別性の高い特徴を学習する。境界誘導型セミプッシュプルロスを開発し、正常な特徴のみを引き寄せ、異常な特徴をあるマージン領域を超えて分離境界から引き離すようにする。このように、本モデルはより明示的で識別性の高い判定境界を形成することで、既知および未知の異常に対してより良い結果を得ることができ、同時に高い学習効率を維持することができる。広く使われているMVTecADベンチマークを用いた広範な実験により、提案手法は画像レベルAUROC98.8%、画素レベルAUROC99.4%の性能を達成し、新たな最先端技術を実現することが示された。

要約(オリジナル)

Most of anomaly detection algorithms are mainly focused on modeling the distribution of normal samples and treating anomalies as outliers. However, the discriminative performance of the model may be insufficient due to the lack of knowledge about anomalies. Thus, anomalies should be exploited as possible. However, utilizing a few known anomalies during training may cause another issue that model may be biased by those known anomalies and fail to generalize to unseen anomalies. In this paper, we aim to exploit a few existing anomalies with a carefully designed explicit boundary guided semi-push-pull learning strategy, which can enhance discriminability while mitigating bias problem caused by insufficient known anomalies. Our model is based on two core designs: First, finding one explicit separating boundary as the guidance for further contrastive learning. Specifically, we employ normalizing flow to learn normal feature distribution, then find an explicit separating boundary close to the distribution edge. The obtained explicit and compact separating boundary only relies on the normal feature distribution, thus the bias problem caused by a few known anomalies can be mitigated. Second, learning more discriminative features under the guidance of the explicit separating boundary. A boundary guided semi-push-pull loss is developed to only pull the normal features together while pushing the abnormal features apart from the separating boundary beyond a certain margin region. In this way, our model can form a more explicit and discriminative decision boundary to achieve better results for known and also unseen anomalies, while also maintaining high training efficiency. Extensive experiments on the widely-used MVTecAD benchmark show that the proposed method achieves new state-of-the-art results, with the performance of 98.8% image-level AUROC and 99.4% pixel-level AUROC.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL