Multi-layer Aggregation as a key to feature-based OOD detection

要約

深層学習モデルは、トレーニング段階では観察されなかった入力画像の変化によって容易に妨害され、予測不能な予測が発生します。
このような配信外 (OOD) 画像の検出は、考えられる異常の範囲が非常に広い医療画像分析の状況では特に重要です。
最近、トレーニングされたモデルの中間特徴の分析に基づいた、新しいカテゴリーのメソッドが登場しました。
これらの手法は 2 つのグループに分類できます。1 つは固定の慎重に選択された層で取得された特徴マップを考慮する単層手法、もう 1 つはモデルによって生成された特徴マップのアンサンブルを考慮する多層手法です。
有望ではありますが、これらのアルゴリズムの適切な比較はまだ不足しています。
この研究では、約 7800 の 3D MRI を表す OOD の大きなスペクトル (20 種類) について、さまざまな特徴ベースの OOD 検出方法を比較しました。
私たちの実験は 2 つの現象に光を当てました。
まず、多層手法は、異常の種類に応じて一貫性のない動作をする傾向がある単層手法よりも常に優れたパフォーマンスを発揮します。
第 2 に、OOD 検出のパフォーマンスは、基礎となるニューラル ネットワークのアーキテクチャに大きく依存します。

要約(オリジナル)

Deep Learning models are easily disturbed by variations in the input images that were not observed during the training stage, resulting in unpredictable predictions. Detecting such Out-of-Distribution (OOD) images is particularly crucial in the context of medical image analysis, where the range of possible abnormalities is extremely wide. Recently, a new category of methods has emerged, based on the analysis of the intermediate features of a trained model. These methods can be divided into 2 groups: single-layer methods that consider the feature map obtained at a fixed, carefully chosen layer, and multi-layer methods that consider the ensemble of the feature maps generated by the model. While promising, a proper comparison of these algorithms is still lacking. In this work, we compared various feature-based OOD detection methods on a large spectra of OOD (20 types), representing approximately 7800 3D MRIs. Our experiments shed the light on two phenomenons. First, multi-layer methods consistently outperform single-layer approaches, which tend to have inconsistent behaviour depending on the type of anomaly. Second, the OOD detection performance highly depends on the architecture of the underlying neural network.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google