Coherent Concept-based Explanations in Medical Image and Its Application to Skin Lesion Diagnosis

要約

タイトル：医療画像における概念ベースの説明とその皮膚病変の診断への応用

要約：

– 黒子モデルは、モデルの予測の背景を省略しているため、診断方法の信頼性や受容性が損なわれるとされている。
– 従来の後処理に基づく手法には、解釈を導出するために追加モデルに依存する問題がある。
– 本論文では、ハードアテンションメカニズムと整合性損失項を組み込むことで、概念エンコーダによる概念活性化の視覚的整合性を保証し、追加注釈の監督を必要とせず、概念ベースモデルの解釈可能性を向上する内在的に解釈可能なフレームワークを提案する。
– 提案されたフレームワークは、人間が理解可能な概念とそれらが最終予測に与える影響、および概念が画像に存在する場所の視覚的解釈によって、その決定を説明する。
– 皮膚画像データセットに対する実験の結果、本手法は、他の黒箱モデルや概念ベースモデルよりも皮膚病変の分類において優れた性能を発揮する。

要約(オリジナル)

Early detection of melanoma is crucial for preventing severe complications and increasing the chances of successful treatment. Existing deep learning approaches for melanoma skin lesion diagnosis are deemed black-box models, as they omit the rationale behind the model prediction, compromising the trustworthiness and acceptability of these diagnostic methods. Attempts to provide concept-based explanations are based on post-hoc approaches, which depend on an additional model to derive interpretations. In this paper, we propose an inherently interpretable framework to improve the interpretability of concept-based models by incorporating a hard attention mechanism and a coherence loss term to assure the visual coherence of concept activations by the concept encoder, without requiring the supervision of additional annotations. The proposed framework explains its decision in terms of human-interpretable concepts and their respective contribution to the final prediction, as well as a visual interpretation of the locations where the concept is present in the image. Experiments on skin image datasets demonstrate that our method outperforms existing black-box and concept-based models for skin lesion classification.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI