Asymmetric Student-Teacher Networks for Industrial Anomaly Detection

要約

産業用欠陥検出は、一般的に、発生する可能性のある欠陥のデータがないか不完全なデータしか利用できない異常検出 (AD) 方法で対処されます。
この作業は、AD に対する学生と教師のアプローチのこれまで知られていなかった問題を発見し、2 つのニューラル ネットワークをトレーニングして、欠陥のないトレーニング サンプルに対して同じ出力を生成するソリューションを提案します。
生徒と教師のネットワークの中心的な仮定は、両方のネットワークの出力間の距離は、トレーニングには存在しないため、異常の場合により大きくなるということです。
しかし、以前の方法は、生徒と教師のアーキテクチャが類似しているため、異常に対して距離が望ましくないほど小さいという欠点があります。
このため、非対称学生教師ネットワーク (AST) を提案します。
教師として密度推定の正規化フローをトレーニングし、学生として従来のフィードフォワード ネットワークをトレーニングして、異常に対して大きな距離をトリガーします。
トレーニング ディストリビューションの外では、アーキテクチャが根本的に異なるため、学生はこの分岐を真似することはできません。
私たちのASTネットワークは、以前の研究で異常検出に代わりに使用された正規化フローによって、誤って推定された可能性を補償します。
RGB および 3D データの画像レベルの異常検出に関して、現在最も関連性の高い 2 つの欠陥検出データセット MVTec AD および MVTec 3D-AD で、この方法が最先端の結果を生み出すことを示します。

要約(オリジナル)

Industrial defect detection is commonly addressed with anomaly detection (AD) methods where no or only incomplete data of potentially occurring defects is available. This work discovers previously unknown problems of student-teacher approaches for AD and proposes a solution, where two neural networks are trained to produce the same output for the defect-free training examples. The core assumption of student-teacher networks is that the distance between the outputs of both networks is larger for anomalies since they are absent in training. However, previous methods suffer from the similarity of student and teacher architecture, such that the distance is undesirably small for anomalies. For this reason, we propose asymmetric student-teacher networks (AST). We train a normalizing flow for density estimation as a teacher and a conventional feed-forward network as a student to trigger large distances for anomalies: The bijectivity of the normalizing flow enforces a divergence of teacher outputs for anomalies compared to normal data. Outside the training distribution the student cannot imitate this divergence due to its fundamentally different architecture. Our AST network compensates for wrongly estimated likelihoods by a normalizing flow, which was alternatively used for anomaly detection in previous work. We show that our method produces state-of-the-art results on the two currently most relevant defect detection datasets MVTec AD and MVTec 3D-AD regarding image-level anomaly detection on RGB and 3D data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google