Leveraging Expert Input for Robust and Explainable AI-Assisted Lung Cancer Detection in Chest X-rays

要約

ディープラーニングモデルは、特に胸部X線などの医療イメージモダリティを介して肺がんを検出する際に、AI支援医療診断を進めるための重要な可能性を示しています。
しかし、これらのモデルのブラックボックスの性質は、その解釈可能性と信頼性に課題をもたらし、臨床診療における採用を制限します。
この研究では、InceptionV3に基づいた高性能肺がん検出モデルの解釈可能性と堅牢性の両方を調べ、胸部X線と放射線レポートの公開データセットを利用しています。
事後および前馬術アプローチの両方を含む複数の説明可能なAI（XAI）技術の臨床的有用性を評価し、既存の方法が臨床的に関連する説明を提供しないことが多いことを発見し、専門家の放射線科医の評価からの矛盾と発散を示します。
これらの制限に対処するために、診断固有の臨床概念を定義するために放射線科医と協力し、ボトルネックの概念を活用する専門家主導のアプローチであるClinicxaiを開発しました。
Clinicxaiは、臨床医の実用的な要件と密接に整合し、診断の精度を維持しながら、臨床的に意味のある説明を生成しました。
また、広く利用されている一連の敵対的な攻撃の両方にさらされることにより、元のInceptionV3モデルと比較して、Clinicxaiの堅牢性を評価します。
私たちの分析は、Clinicxaiが敵対的な摂動に対して非常に大きな回復力を示していることを示しています。
これらの調査結果は、医療診断のための解釈可能で堅牢なAIシステムの設計にドメインの専門知識を組み込むことの重要性を強調し、ヘルスケアにおけるより信頼できる効果的なAIソリューションへの道を開いています。

要約(オリジナル)

Deep learning models show significant potential for advancing AI-assisted medical diagnostics, particularly in detecting lung cancer through medical image modalities such as chest X-rays. However, the black-box nature of these models poses challenges to their interpretability and trustworthiness, limiting their adoption in clinical practice. This study examines both the interpretability and robustness of a high-performing lung cancer detection model based on InceptionV3, utilizing a public dataset of chest X-rays and radiological reports. We evaluate the clinical utility of multiple explainable AI (XAI) techniques, including both post-hoc and ante-hoc approaches, and find that existing methods often fail to provide clinically relevant explanations, displaying inconsistencies and divergence from expert radiologist assessments. To address these limitations, we collaborated with a radiologist to define diagnosis-specific clinical concepts and developed ClinicXAI, an expert-driven approach leveraging the concept bottleneck methodology. ClinicXAI generated clinically meaningful explanations which closely aligned with the practical requirements of clinicians while maintaining high diagnostic accuracy. We also assess the robustness of ClinicXAI in comparison to the original InceptionV3 model by subjecting both to a series of widely utilized adversarial attacks. Our analysis demonstrates that ClinicXAI exhibits significantly greater resilience to adversarial perturbations. These findings underscore the importance of incorporating domain expertise into the design of interpretable and robust AI systems for medical diagnostics, paving the way for more trustworthy and effective AI solutions in healthcare.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google