DiaMond: Dementia Diagnosis with Multi-Modal Vision Transformers Using MRI and PET

要約

認知症、特にアルツハイマー病 (AD) と前頭側頭型認知症 (FTD) の診断は、症状が重複しているため複雑です。
磁気共鳴画像法 (MRI) と陽電子放射断層撮影法 (PET) データは診断に重要ですが、これらのモダリティをディープラーニングに統合することは課題に直面しており、単一のモダリティを使用する場合と比較して最適なパフォーマンスが得られないことがよくあります。
さらに、臨床的に重要な鑑別診断におけるマルチモーダルアプローチの可能性は、ほとんど解明されていないままである。
私たちは、MRI と PET を効果的に統合するビジョン Transformers を使用してこれらの問題に対処する新しいフレームワーク DiaMond を提案します。
DiaMond には、セルフ アテンションと、MRI と PET を相乗的に組み合わせた新しいバイ アテンション メカニズムが装備されており、同時にマルチモーダル正規化により冗長な依存関係を削減し、パフォーマンスを向上させます。
DiaMond は、さまざまなデータセットにわたって既存のマルチモーダル手法を大幅に上回り、AD 診断では 92.4%、AD-MCI-CN 分類では 65.2%、AD と FTD の鑑別診断では 76.5% というバランスの取れた精度を達成しています。
また、包括的なアブレーション研究で DiaMond の堅牢性も検証しました。
コードは https://github.com/ai-med/DiaMond で入手できます。

要約(オリジナル)

Diagnosing dementia, particularly for Alzheimer’s Disease (AD) and frontotemporal dementia (FTD), is complex due to overlapping symptoms. While magnetic resonance imaging (MRI) and positron emission tomography (PET) data are critical for the diagnosis, integrating these modalities in deep learning faces challenges, often resulting in suboptimal performance compared to using single modalities. Moreover, the potential of multi-modal approaches in differential diagnosis, which holds significant clinical importance, remains largely unexplored. We propose a novel framework, DiaMond, to address these issues with vision Transformers to effectively integrate MRI and PET. DiaMond is equipped with self-attention and a novel bi-attention mechanism that synergistically combine MRI and PET, alongside a multi-modal normalization to reduce redundant dependency, thereby boosting the performance. DiaMond significantly outperforms existing multi-modal methods across various datasets, achieving a balanced accuracy of 92.4% in AD diagnosis, 65.2% for AD-MCI-CN classification, and 76.5% in differential diagnosis of AD and FTD. We also validated the robustness of DiaMond in a comprehensive ablation study. The code is available at https://github.com/ai-med/DiaMond.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google