TA-RNN: an Attention-based Time-aware Recurrent Neural Network Architecture for Electronic Health Records

要約

動機: 電子医療記録 (EHR) は、患者の病歴の包括的なリソースです。
EHR は、深層学習 (DL) などの高度なテクノロジーを活用するために不可欠であり、これにより医療提供者は広範なデータを分析し、貴重な洞察を抽出し、正確でデータに基づいた臨床上の意思決定を行うことができます。
リカレント ニューラル ネットワーク (RNN) などの DL 手法は、EHR を分析して疾患の進行をモデル化し、診断を予測するために利用されています。
ただし、これらの方法では、臨床来院間の不規則な時間間隔など、EHR データに固有の一部の不規則性には対処できません。
さらに、ほとんどの DL モデルは解釈できません。
この研究では、次回および複数回の来院時の EHR における患者の臨床転帰を予測するために、RNN に基づく 2 つの解釈可能な DL アーキテクチャ、つまり Time-Aware RNN (TA-RNN) と TA-RNN-Autoencoder (TA-RNN-AE) を提案します。
それぞれ先へ。
不規則な時間間隔の影響を軽減するために、訪問間の経過時間を時間埋め込みを組み込むことを提案します。
解釈しやすくするために、訪問と各訪問内の機能の間で動作する二重レベルの注意メカニズムを採用することを提案します。
結果: アルツハイマー病神経画像イニシアチブ (ADNI) および国立アルツハイマー病調整センター (NACC) のデータセットに対して行われた実験の結果は、アルツハイマー病 (AD) を予測するための提案されたモデルが、最先端のベースラインのアプローチと比較して優れたパフォーマンスを示した
F2 と感度に基づいて。
さらに、TA-RNN は、死亡率予測のための集中治療用医療情報マート (MIMIC-III) データセットで優れたパフォーマンスを示しました。
私たちのアブレーション研究では、時間埋め込みと注意メカニズムを組み込むことによって予測パフォーマンスが向上することが観察されました。
最後に、注目の重みを調査することで、予測における影響力のある訪問と特徴を特定することができました。
利用可能状況: https://github.com/bozdaglab/TA-RNN

要約(オリジナル)

Motivation: Electronic Health Records (EHR) represent a comprehensive resource of a patient’s medical history. EHR are essential for utilizing advanced technologies such as deep learning (DL), enabling healthcare providers to analyze extensive data, extract valuable insights, and make precise and data-driven clinical decisions. DL methods such as Recurrent Neural Networks (RNN) have been utilized to analyze EHR to model disease progression and predict diagnosis. However, these methods do not address some inherent irregularities in EHR data such as irregular time intervals between clinical visits. Furthermore, most DL models are not interpretable. In this study, we propose two interpretable DL architectures based on RNN, namely Time-Aware RNN (TA-RNN) and TA-RNN-Autoencoder (TA-RNN-AE) to predict patient’s clinical outcome in EHR at next visit and multiple visits ahead, respectively. To mitigate the impact of irregular time intervals, we propose incorporating time embedding of the elapsed times between visits. For interpretability, we propose employing a dual-level attention mechanism that operates between visits and features within each visit. Results: The results of the experiments conducted on Alzheimer’s Disease Neuroimaging Initiative (ADNI) and National Alzheimer’s Coordinating Center (NACC) datasets indicated superior performance of proposed models for predicting Alzheimer’s Disease (AD) compared to state-of-the-art and baseline approaches based on F2 and sensitivity. Additionally, TA-RNN showed superior performance on Medical Information Mart for Intensive Care (MIMIC-III) dataset for mortality prediction. In our ablation study, we observed enhanced predictive performance by incorporating time embedding and attention mechanisms. Finally, investigating attention weights helped identify influential visits and features in predictions. Availability: https://github.com/bozdaglab/TA-RNN

arxiv情報

提供元, 利用サービス

arxiv.jp, Google