Gradient Attention Map Based Verification of Deep Convolutional Neural Networks with Application to X-ray Image Datasets

要約

ディープラーニングモデルは、歯科矯正や骨格の成熟度評価など、医療イメージングに大きな可能性があります。
ただし、トレーニングセットとは異なるデータにモデルを適用すると、患者のケアに影響を与える可能性のある信頼できない予測につながる可能性があります。
これに対処するために、複数の補完戦略を通じてモデルの適合性を評価する包括的な検証フレームワークを提案します。
まず、Gradient注意マップ（GAM）ベースのアプローチを導入し、Grad-CAMを使用して注意パターンを分析し、IOU、Diceの類似性、SSIM、Cosineの類似性、ピアソン相関、KL分岐、ワッサースタイン距離などの類似性メトリックを介して比較します。
第二に、検証を初期の畳み込み機能マップに拡張し、注意だけで見逃された構造的な誤整合をキャプチャします。
最後に、追加のごみクラスを分類モデルに組み込み、分散除外入力を明示的に拒否します。
実験結果は、これらの結合された方法が不適切なモデルと入力を効果的に識別し、医療イメージングにおける深い学習のより安全で信頼できる展開を促進することを示しています。

要約(オリジナル)

Deep learning models have great potential in medical imaging, including orthodontics and skeletal maturity assessment. However, applying a model to data different from its training set can lead to unreliable predictions that may impact patient care. To address this, we propose a comprehensive verification framework that evaluates model suitability through multiple complementary strategies. First, we introduce a Gradient Attention Map (GAM)-based approach that analyzes attention patterns using Grad-CAM and compares them via similarity metrics such as IoU, Dice Similarity, SSIM, Cosine Similarity, Pearson Correlation, KL Divergence, and Wasserstein Distance. Second, we extend verification to early convolutional feature maps, capturing structural mis-alignments missed by attention alone. Finally, we incorporate an additional garbage class into the classification model to explicitly reject out-of-distribution inputs. Experimental results demonstrate that these combined methods effectively identify unsuitable models and inputs, promoting safer and more reliable deployment of deep learning in medical imaging.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google