Additive MIL: Intrinsic Interpretability for Pathology

要約

マルチインスタンスラーニング（MIL）は、癌の診断と評価の自動化、患者の予後の予測、治療反応などの重大な問題の解決に向けて、病理学に広く適用されています。
これらのモデルを臨床現場に展開するには、開発および展開中にこれらのブラックボックスを注意深く検査して、障害を特定し、医師の信頼を維持する必要があります。
この作業では、同様の予測パフォーマンスを維持しながら解釈可能性を可能にするMILモデルの単純な定式化を提案します。
当社のAdditiveMILモデルは、画像内の各領域の寄与を正確に計算して視覚化できるように、空間クレジットの割り当てを可能にします。
私たちの空間クレジットの割り当ては、診断中に病理医が使用する領域と一致し、注意MILモデルからの古典的な注意ヒートマップを改善することを示します。
関数の合成を変更するだけで、既存のMILモデルを追加できることを示します。
また、これらのモデルがモデルの障害をデバッグし、偽の機能を識別し、クラスごとの関心領域を強調表示して、臨床的意思決定などのハイステークス環境での使用を可能にする方法も示します。

要約(オリジナル)

Multiple Instance Learning (MIL) has been widely applied in pathology towards solving critical problems such as automating cancer diagnosis and grading, predicting patient prognosis, and therapy response. Deploying these models in a clinical setting requires careful inspection of these black boxes during development and deployment to identify failures and maintain physician trust. In this work, we propose a simple formulation of MIL models, which enables interpretability while maintaining similar predictive performance. Our Additive MIL models enable spatial credit assignment such that the contribution of each region in the image can be exactly computed and visualized. We show that our spatial credit assignment coincides with regions used by pathologists during diagnosis and improves upon classical attention heatmaps from attention MIL models. We show that any existing MIL model can be made additive with a simple change in function composition. We also show how these models can debug model failures, identify spurious features, and highlight class-wise regions of interest, enabling their use in high-stakes environments such as clinical decision-making.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google