IBO: Inpainting-Based Occlusion to Enhance Explainable Artificial Intelligence Evaluation in Histopathology

要約

病理組織学的画像解析は、正確ながん診断と治療計画に不可欠である。深層学習モデル、特に畳み込みニューラルネットワークはこの分野を発展させてきたが、その「ブラックボックス」的な性質は、解釈可能性と信頼性に懸念を抱かせる。説明可能な人工知能（XAI）技術はこれらの懸念に対処することを目的としているが、その有効性を評価することは依然として困難である。現在のオクルージョンベースのXAI手法の重要な問題は、しばしば分布外（OoD）サンプルを生成し、不正確な評価につながることである。本論文では、デノイジング拡散確率モデルを利用して、病理組織画像のオクルージョン領域をインペイントする、新しいオクルージョン戦略であるインペインティング・ベース・オクルージョン（IBO）を紹介する。がん領域を現実的な非がん組織で置き換えることにより、IBOはOoDアーチファクトを最小化し、データの完全性を保持する。第一に、LPIPS（Learned Perceptual Image Patch Similarity）メトリクスを用いた知覚的類似性の評価、第二に、AUC（Area Under the Curve）分析によるモデル予測への影響の定量化である。その結果、IBOは知覚忠実度を大幅に改善し、LPIPSスコアは既存の最良のオクルージョン戦略と比較して約2倍の改善を達成した。さらに、IBOは従来の手法と比較して、XAIパフォーマンス予測の精度を42%から71%に向上させた。これらの結果は、IBOがXAI技術のより信頼性の高い評価を提供し、病理組織学や他のアプリケーションに利益をもたらす可能性を示している。この研究のソースコードはhttps://github.com/a-fsh-r/IBO。

要約(オリジナル)

Histopathological image analysis is crucial for accurate cancer diagnosis and treatment planning. While deep learning models, especially convolutional neural networks, have advanced this field, their ‘black-box’ nature raises concerns about interpretability and trustworthiness. Explainable Artificial Intelligence (XAI) techniques aim to address these concerns, but evaluating their effectiveness remains challenging. A significant issue with current occlusion-based XAI methods is that they often generate Out-of-Distribution (OoD) samples, leading to inaccurate evaluations. In this paper, we introduce Inpainting-Based Occlusion (IBO), a novel occlusion strategy that utilizes a Denoising Diffusion Probabilistic Model to inpaint occluded regions in histopathological images. By replacing cancerous areas with realistic, non-cancerous tissue, IBO minimizes OoD artifacts and preserves data integrity. We evaluate our method on the CAMELYON16 dataset through two phases: first, by assessing perceptual similarity using the Learned Perceptual Image Patch Similarity (LPIPS) metric, and second, by quantifying the impact on model predictions through Area Under the Curve (AUC) analysis. Our results demonstrate that IBO significantly improves perceptual fidelity, achieving nearly twice the improvement in LPIPS scores compared to the best existing occlusion strategy. Additionally, IBO increased the precision of XAI performance prediction from 42% to 71% compared to traditional methods. These results demonstrate IBO’s potential to provide more reliable evaluations of XAI techniques, benefiting histopathology and other applications. The source code for this study is available at https://github.com/a-fsh-r/IBO.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL