Pixel-Level Explanation of Multiple Instance Learning Models in Biomedical Single Cell Images

要約

説明可能性は、臨床意思決定におけるコンピューター支援診断システムの重要な要件です。
Attention Pooling を使用した複数インスタンス学習は、インスタンス レベルの説明可能性を提供しますが、多くの臨床アプリケーションでは、より深いピクセル レベルの説明が望まれますが、これまでのところ不足しています。
この作業では、複数インスタンスの学習モデルを説明するために、GradCAM、レイヤーごとの関連性伝播 (LRP)、情報ボトルネック属性 (IBA)、および InputIBA の 4 つの属性方法の使用を調査します。
このメソッドのコレクションを使用して、患者の血液塗抹標本から血液がんを診断するタスクについて、ピクセル レベルの説明を導き出すことができます。
急性骨髄性白血病の 2 つのデータセットを 100,000 を超える単一細胞画像で研究し、白血球単一細胞のさまざまな特性に焦点を当てた複数インスタンス学習アーキテクチャで各帰属方法がどのように機能するかを観察します。
さらに、アトリビューション マップを医療専門家の注釈と比較して、モデルの意思決定が人間の基準とどのように異なるかを確認します。
私たちの研究は、複数インスタンス学習モデルにピクセルレベルの説明可能性を実装するという課題に対処し、臨床医がコンピューター支援診断システムからの決定をよりよく理解し、信頼するための洞察を提供します。

要約(オリジナル)

Explainability is a key requirement for computer-aided diagnosis systems in clinical decision-making. Multiple instance learning with attention pooling provides instance-level explainability, however for many clinical applications a deeper, pixel-level explanation is desirable, but missing so far. In this work, we investigate the use of four attribution methods to explain a multiple instance learning models: GradCAM, Layer-Wise Relevance Propagation (LRP), Information Bottleneck Attribution (IBA), and InputIBA. With this collection of methods, we can derive pixel-level explanations on for the task of diagnosing blood cancer from patients’ blood smears. We study two datasets of acute myeloid leukemia with over 100 000 single cell images and observe how each attribution method performs on the multiple instance learning architecture focusing on different properties of the white blood single cells. Additionally, we compare attribution maps with the annotations of a medical expert to see how the model’s decision-making differs from the human standard. Our study addresses the challenge of implementing pixel-level explainability in multiple instance learning models and provides insights for clinicians to better understand and trust decisions from computer-aided diagnosis systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google