Transformer based Models for Unsupervised Anomaly Segmentation in Brain MR Images

要約

放射線診断に関連する患者ケアの質は、医師の作業量に比例する。セグメンテーションは、診断および治療処置の基本的な制限の前兆である。機械学習（ML）の進歩は、単一のアプリケーションを一般化されたアルゴリズムに置き換えるために、診断効率を高めることを目的としている。教師なし異常検出（UAD）では、畳み込みニューラルネットワーク（CNN）ベースのオートエンコーダ（AE）および変分オートエンコーダ（VAE）が再構成ベースの異常セグメンテーションのためのデファクトアプローチとして考慮されている。医療画像における異常領域の探索は、異常セグメンテーションを用いる主なアプリケーションの1つである。CNNの受容野は制限されているため、CNNはグローバルな文脈をモデル化することができず、異常領域が画像の一部に及んだ場合、CNNベースのAEは画像の意味的理解をもたらすことができない。一方、Vision Transformer (ViT)は、CNNに代わる競争力のある技術として登場した。ViTは、画像パッチを互いに関連付けることができる自己注 意メカニズムに依存している。この研究では、より現実的な画像を再構成するために、再構成に基づくUADタスクのためのAEを構築するトランスフォーマーの能力を調査する。我々は、脳磁気共鳴画像（MRI）の異常セグメンテーションに焦点を当て、State-of-The-Art（SOTA）モデルと同等以上のセグメンテーション性能を可能にしながら、5つのTransformerベースのモデルを提示する。ソースコードはGithub https://github.com/ahmedgh970/Transformers_Unsupervised_Anomaly_Segmentation.git で公開されています。

要約(オリジナル)

The quality of patient care associated with diagnostic radiology is proportionate to a physician workload. Segmentation is a fundamental limiting precursor to diagnostic and therapeutic procedures. Advances in Machine Learning (ML) aim to increase diagnostic efficiency to replace single application with generalized algorithms. In Unsupervised Anomaly Detection (UAD), Convolutional Neural Network (CNN) based Autoencoders (AEs) and Variational Autoencoders (VAEs) are considered as a de facto approach for reconstruction based anomaly segmentation. Looking for anomalous regions in medical images is one of the main applications that use anomaly segmentation. The restricted receptive field in CNNs limit the CNN to model the global context and hence if the anomalous regions cover parts of the image, the CNN-based AEs are not capable to bring semantic understanding of the image. On the other hand, Vision Transformers (ViTs) have emerged as a competitive alternative to CNNs. It relies on the self-attention mechanism that is capable to relate image patches to each other. To reconstruct a coherent and more realistic image, in this work, we investigate Transformer capabilities in building AEs for reconstruction based UAD task. We focus on anomaly segmentation for Brain Magnetic Resonance Imaging (MRI) and present five Transformer-based models while enabling segmentation performance comparable or superior to State-of-The-Art (SOTA) models. The source code is available on Github https://github.com/ahmedgh970/Transformers_Unsupervised_Anomaly_Segmentation.git

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL