Unlearning Spurious Correlations in Chest X-ray Classification

要約

医療画像分類モデルは、複数のデータ ソースから派生したトレーニング データセットを使用してトレーニングされることがよくあります。
モデルの一般化を達成するには複数のデータ ソースを活用することが重要ですが、これらのソースの多様性は本質的に、モデルの精度と透明性の両方に影響を与える可能性のある意図しない交絡因子やその他の課題を引き起こす可能性があることを認識することが重要です。
医用画像分類、特に筋骨格画像分類における注目すべき交絡因子は、思春期に観察される骨格の成熟に起因する骨の成長です。
私たちは、新型コロナウイルス感染症 (Covid-19) の胸部 X 線データセットを使用してディープ ラーニング モデルをトレーニングし、このデータセットが意図しない交絡領域によってどのように誤った相関を引き起こす可能性があるかを紹介します。
eXplanation Based Learning (XBL) は、モデルの説明を利用して対話的に誤った相関を学習することにより、解釈可能性を超える深層学習アプローチです。
これは、対話型のユーザー フィードバック、特に機能の注釈を統合することによって実現されます。
私たちの研究では、これらの偽相関を効果的に排除するための XBL ベースのアプローチを実装するために、要求の少ない 2 つの手動フィードバック メカニズムを採用しました。
私たちの結果は、交絡因子が存在する場合でも堅牢なモデルを構築できる XBL の有望な可能性を強調しています。

要約(オリジナル)

Medical image classification models are frequently trained using training datasets derived from multiple data sources. While leveraging multiple data sources is crucial for achieving model generalization, it is important to acknowledge that the diverse nature of these sources inherently introduces unintended confounders and other challenges that can impact both model accuracy and transparency. A notable confounding factor in medical image classification, particularly in musculoskeletal image classification, is skeletal maturation-induced bone growth observed during adolescence. We train a deep learning model using a Covid-19 chest X-ray dataset and we showcase how this dataset can lead to spurious correlations due to unintended confounding regions. eXplanation Based Learning (XBL) is a deep learning approach that goes beyond interpretability by utilizing model explanations to interactively unlearn spurious correlations. This is achieved by integrating interactive user feedback, specifically feature annotations. In our study, we employed two non-demanding manual feedback mechanisms to implement an XBL-based approach for effectively eliminating these spurious correlations. Our results underscore the promising potential of XBL in constructing robust models even in the presence of confounding factors.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google