A Unified Survey on Anomaly, Novelty, Open-Set, and Out-of-Distribution Detection: Solutions and Future Challenges

要約

機械学習モデルは、学習分布から乖離したサンプルにしばしば遭遇する。分布から外れた（OOD）サンプルを認識できず、結果としてそのサンプルをクラス内ラベルに割り当てられないと、モデルの信頼性が著しく損なわれる。この問題は、オープンワールド環境においてモデルを安全に配備するための重要な問題であるため、大きな注目を集めている。OODサンプルの検出は、可能性のある全ての未知分布をモデル化することが困難であるため、挑戦的である。現在までに、異常検出、新規性検出、1クラス学習、オープンセット認識、分布外検出など、いくつかの研究領域で、見慣れないサンプルを検出する問題に取り組んでいる。分布外検出，オープンセット検出，異常検出は，類似した共通の概念を持つにもかかわらず，それぞれ独立に研究されてきた．そのため、これらの研究領域が交わることはなく、研究の障壁となっている。また、これらのアプローチを概観するための調査も行われているが、特定の分野のみを対象とし、異なる分野間の関係性を検討することは行われていないようである。本調査では、各分野の著名な研究成果を横断的かつ包括的にレビューし、その共通点を明らかにすることを目的としています。研究者は、異なる分野での研究の進歩の概観から恩恵を受け、相乗的に将来の方法論を開発することができます。さらに、我々の知る限り、異常検知や一クラス学習に関するサーベイは存在するが、本サーベイが広くカバーする分布外検知に関する包括的かつ最新のサーベイは存在しない。最後に、分野横断的な統一的な視点から、今後の研究の方向性について議論し、これらの分野をより緊密に連携させることを意図している。

要約(オリジナル)

Machine learning models often encounter samples that are diverged from the training distribution. Failure to recognize an out-of-distribution (OOD) sample, and consequently assign that sample to an in-class label significantly compromises the reliability of a model. The problem has gained significant attention due to its importance for safety deploying models in open-world settings. Detecting OOD samples is challenging due to the intractability of modeling all possible unknown distributions. To date, several research domains tackle the problem of detecting unfamiliar samples, including anomaly detection, novelty detection, one-class learning, open set recognition, and out-of-distribution detection. Despite having similar and shared concepts, out-of-distribution, open-set, and anomaly detection have been investigated independently. Accordingly, these research avenues have not cross-pollinated, creating research barriers. While some surveys intend to provide an overview of these approaches, they seem to only focus on a specific domain without examining the relationship between different domains. This survey aims to provide a cross-domain and comprehensive review of numerous eminent works in respective areas while identifying their commonalities. Researchers can benefit from the overview of research advances in different fields and develop future methodology synergistically. Furthermore, to the best of our knowledge, while there are surveys in anomaly detection or one-class learning, there is no comprehensive or up-to-date survey on out-of-distribution detection, which our survey covers extensively. Finally, having a unified cross-domain perspective, we discuss and shed light on future lines of research, intending to bring these fields closer together.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL