Explaining Clinical Decision Support Systems in Medical Imaging using Cycle-Consistent Activation Maximization

要約

ディープニューラルネットワークを用いた臨床的意思決定支援は、着実に関心が高まっているテーマである。近年の研究により、ディープラーニングが従来の手法に比べて医用画像の分類に大きな利点をもたらすことが繰り返し示されていますが、その根底にある意思決定プロセスが不透明で理解しにくいと考えられているため、臨床医はこの技術の採用に躊躇することが少なくありません。近年、この問題は様々なアプローチによって解決され、より深い洞察の提供に貢献することに成功しています。特に、付加的特徴量帰属法は、顕著性マップを作成することにより、決定を入力空間に伝搬させることができ、これにより、実践者は「ネットワークが見ているものを見る」ことができるようになる。しかし、限られたデータしか利用できない場合、生成されたマップの品質が悪くなり、画像にノイズが入ることがある-臨床の文脈では典型的なシナリオである。我々は、CycleGAN活性化最大化に基づく新しい決定説明スキームを提案し、より少ないデータセットでも分類器の決定に関する高品質な可視化を生成する。我々は、肺病変の悪性度分類のためのLIDCデータセット、超音波画像の乳がん検出のためのBreastMNISTデータセット、およびRBG画像オブジェクト認識のためのCIFAR-10データセットの2つのサブセットで我々の方法を評価するユーザスタディを実施した。このユーザースタディにおいて、我々の手法は、医療画像データセットにおいて既存の手法を明らかに上回り、自然画像設定において2位にランクインしました。我々のアプローチは、ディープニューラルネットワークに基づく臨床意思決定支援システムのより良い理解に向けて重要な貢献をし、その結果、全体的な臨床的受容性を促進することを目的としています。

要約(オリジナル)

Clinical decision support using deep neural networks has become a topic of steadily growing interest. While recent work has repeatedly demonstrated that deep learning offers major advantages for medical image classification over traditional methods, clinicians are often hesitant to adopt the technology because its underlying decision-making process is considered to be intransparent and difficult to comprehend. In recent years, this has been addressed by a variety of approaches that have successfully contributed to providing deeper insight. Most notably, additive feature attribution methods are able to propagate decisions back into the input space by creating a saliency map which allows the practitioner to ‘see what the network sees.’ However, the quality of the generated maps can become poor and the images noisy if only limited data is available – a typical scenario in clinical contexts. We propose a novel decision explanation scheme based on CycleGAN activation maximization which generates high-quality visualizations of classifier decisions even in smaller data sets. We conducted a user study in which we evaluated our method on the LIDC dataset for lung lesion malignancy classification, the BreastMNIST dataset for ultrasound image breast cancer detection, as well as two subsets of the CIFAR-10 dataset for RBG image object recognition. Within this user study, our method clearly outperformed existing approaches on the medical imaging datasets and ranked second in the natural image setting. With our approach we make a significant contribution towards a better understanding of clinical decision support systems based on deep neural networks and thus aim to foster overall clinical acceptance.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL