What do we learn? Debunking the Myth of Unsupervised Outlier Detection

要約

オートエンコーダ（AE）はラベルのないコンパクトな表現を学習するという望ましい性質を持ち，分布外（OoD）検出に広く応用されているにもかかわらず，一般にまだ理解が浅く，正常分布と異常分布が強く重なっている外れ値の検出に間違って使われていることがある．一般に、学習された多様体は、学習分布内のサンプルを記述するためにのみ重要な情報を含んでおり、外れ値の再構成は高い残差につながると仮定されている。しかし、最近の研究では、AEはある種のOoDサンプルの再構成にさらに優れている可能性があることが示唆されている。本研究では、この仮定に挑戦し、オートエンコーダーが2つの異なるタスクを解くように課せられたとき、実際に何を学習するかを調査する。まず、AEが学習分布を学習し、他のドメインのサンプルを確実に認識できるかどうかを評価するために、学習済み分類器のFIDと信頼度スコアに基づく2つの指標を提案する。次に、より難易度の高い肺病理検出タスクにおいて、AEが異常領域のあるサンプルから正常な画像を合成できるかどうかを調査した。我々は、最先端の（SOTA）AEが潜在多様体を拘束して異常パターンの再構成を可能にすることができないか、あるいは、潜在分布から入力を正確に復元できず、ぼやけたりずれたりした再構成になっていることを発見した。我々は、知覚的に認識されたグローバルな画像プリオールを学習し、推定された密な変形場に基づいて局所的に形態を適応させる新しい変形可能なオートエンコーダ（MorphAEus）を提案する。我々は、教師なし手法よりも優れたOoDと病変の検出性能を実証する。

要約(オリジナル)

Even though auto-encoders (AEs) have the desirable property of learning compact representations without labels and have been widely applied to out-of-distribution (OoD) detection, they are generally still poorly understood and are used incorrectly in detecting outliers where the normal and abnormal distributions are strongly overlapping. In general, the learned manifold is assumed to contain key information that is only important for describing samples within the training distribution, and that the reconstruction of outliers leads to high residual errors. However, recent work suggests that AEs are likely to be even better at reconstructing some types of OoD samples. In this work, we challenge this assumption and investigate what auto-encoders actually learn when they are posed to solve two different tasks. First, we propose two metrics based on the Fr\’echet inception distance (FID) and confidence scores of a trained classifier to assess whether AEs can learn the training distribution and reliably recognize samples from other domains. Second, we investigate whether AEs are able to synthesize normal images from samples with abnormal regions, on a more challenging lung pathology detection task. We have found that state-of-the-art (SOTA) AEs are either unable to constrain the latent manifold and allow reconstruction of abnormal patterns, or they are failing to accurately restore the inputs from their latent distribution, resulting in blurred or misaligned reconstructions. We propose novel deformable auto-encoders (MorphAEus) to learn perceptually aware global image priors and locally adapt their morphometry based on estimated dense deformation fields. We demonstrate superior performance over unsupervised methods in detecting OoD and pathology.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL