Towards generating more interpretable counterfactuals via concept vectors: a preliminary study on chest X-rays

要約

医療イメージングモデルを展開するための重要なステップは、臨床的知識と解釈可能性との調整を確保することです。
臨床概念を生成モデルの潜在空間にマッピングすることに焦点を当て、概念活性化ベクトル（CAVS）を識別します。
Simple Reconstruction Autoencoderを使用して、明示的なラベルトレーニングなしで、ユーザー定義の概念を画像レベルの機能にリンクします。
抽出された概念はデータセット全体で安定しており、臨床的に関連する機能を強調する視覚的な説明を可能にします。
概念の方向に沿って潜在空間を横断することにより、特定の臨床的特徴を誇張または減少させる反事実を生成します。
胸部X線の予備的な結果は、心臓腫瘍のような大規模な病理学の有望であることを示していますが、再構築の限界のために小さな病理は困難なままです。
ベースラインを上回ることはありませんが、このアプローチは、臨床知識に合わせた解釈可能な概念ベースの説明への道を提供します。

要約(オリジナル)

An essential step in deploying medical imaging models is ensuring alignment with clinical knowledge and interpretability. We focus on mapping clinical concepts into the latent space of generative models to identify Concept Activation Vectors (CAVs). Using a simple reconstruction autoencoder, we link user-defined concepts to image-level features without explicit label training. The extracted concepts are stable across datasets, enabling visual explanations that highlight clinically relevant features. By traversing latent space along concept directions, we produce counterfactuals that exaggerate or reduce specific clinical features. Preliminary results on chest X-rays show promise for large pathologies like cardiomegaly, while smaller pathologies remain challenging due to reconstruction limits. Although not outperforming baselines, this approach offers a path toward interpretable, concept-based explanations aligned with clinical knowledge.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google