Evaluating Explainable AI on a Multi-Modal Medical Imaging Task: Can Existing Algorithms Fulfill Clinical Requirements?

要約

臨床意思決定支援に人工知能 (AI) モデルの力を活用するには、臨床エンドユーザーに予測を説明できることが必要です。
医療画像の場合、特徴属性マップ (ヒートマップ) は、AI モデルの予測における重要な特徴を強調表示する最も一般的な説明形式です。
ただし、各画像モダリティまたはチャネルが、根底にある同じ生物医学現象の個別の臨床情報を視覚化するマルチモーダル医用画像に関する決定の説明において、ヒートマップがどの程度うまく機能するかは不明です。
このようなモダリティに依存する特徴を理解することは、臨床ユーザーが AI の決定を解釈するために不可欠です。
この臨床的に重要であるにもかかわらず技術的に無視されている問題に取り組むために、モダリティ固有の特徴重要度 (MSFI) メトリックを提案します。
モダリティの優先順位付けとモダリティ固有の特徴位置特定の臨床画像と説明解釈パターンをコード化します。
当社は、計算手法と臨床医のユーザー調査を使用して、臨床要件に基づいた体系的な評価を実施します。
結果は、調査された 16 個のヒートマップ アルゴリズムが、AI モデルの意思決定プロセスまたは意思決定の質を正しく示すための臨床要件を満たしていないことを示しています。
評価および MSFI メトリクスは、マルチモーダル説明に関する臨床要件を満たす XAI アルゴリズムの設計と選択をガイドできます。

要約(オリジナル)

Being able to explain the prediction to clinical end-users is a necessity to leverage the power of artificial intelligence (AI) models for clinical decision support. For medical images, a feature attribution map, or heatmap, is the most common form of explanation that highlights important features for AI models’ prediction. However, it is unknown how well heatmaps perform on explaining decisions on multi-modal medical images, where each image modality or channel visualizes distinct clinical information of the same underlying biomedical phenomenon. Understanding such modality-dependent features is essential for clinical users’ interpretation of AI decisions. To tackle this clinically important but technically ignored problem, we propose the modality-specific feature importance (MSFI) metric. It encodes clinical image and explanation interpretation patterns of modality prioritization and modality-specific feature localization. We conduct a clinical requirement-grounded, systematic evaluation using computational methods and a clinician user study. Results show that the examined 16 heatmap algorithms failed to fulfill clinical requirements to correctly indicate AI model decision process or decision quality. The evaluation and MSFI metric can guide the design and selection of XAI algorithms to meet clinical requirements on multi-modal explanation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google