Analysis of a Deep Learning Model for 12-Lead ECG Classification Reveals Learned Features Similar to Diagnostic Criteria

要約

ディープニューラルネットワークは、その目覚ましい性能にもかかわらず、臨床現場では依然として採用されていない。この研究では、12誘導心電図分類のために事前に訓練されたディープニューラルネットワーク（DNN）に帰属法を適用して、この「ブラックボックス」を開き、モデル予測と学習された特徴の関係を理解する。公開データセットからデータを分類し、帰属法は分類された信号の各サンプルに「関連性スコア」を割り当てる。これにより、ネットワークがトレーニング中に何を学習したかを分析することができ、その定量的方法として、a)クラス、b)リード、c)平均拍動の平均関連性スコアを提案する。心房細動(AF)と左脚ブロック(LBBB)の関連性スコアを健常対照と比較して分析した結果、a)分類確率が高くなるほど平均値は増加し、0付近では誤分類に対応すること、b)どのリードを考慮すべきかに関する臨床的推奨に対応することが示された。さらに、c)目に見えるP波と一致するT波は、それぞれ心房細動とLBBBの分類において明らかに負の関連性スコアをもたらす。要約すると、我々の分析は、DNNが循環器学の教科書的知識に類似した特徴を学習したことを示唆している。

要約(オリジナル)

Despite their remarkable performance, deep neural networks remain unadopted in clinical practice, which is considered to be partially due to their lack in explainability. In this work, we apply attribution methods to a pre-trained deep neural network (DNN) for 12-lead electrocardiography classification to open this ‘black box’ and understand the relationship between model prediction and learned features. We classify data from a public data set and the attribution methods assign a ‘relevance score’ to each sample of the classified signals. This allows analyzing what the network learned during training, for which we propose quantitative methods: average relevance scores over a) classes, b) leads, and c) average beats. The analyses of relevance scores for atrial fibrillation (AF) and left bundle branch block (LBBB) compared to healthy controls show that their mean values a) increase with higher classification probability and correspond to false classifications when around zero, and b) correspond to clinical recommendations regarding which lead to consider. Furthermore, c) visible P-waves and concordant T-waves result in clearly negative relevance scores in AF and LBBB classification, respectively. In summary, our analysis suggests that the DNN learned features similar to cardiology textbook knowledge.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL