CPLLM: Clinical Prediction with Large Language Models

要約

我々は、臨床疾患と再入院の予測のために事前にトレーニングされた大規模言語モデル (LLM) を微調整する方法である大規模言語モデルによる臨床予測 (CPLLM) を紹介します。
量子化を利用し、プロンプトを使用して LLM を微調整しました。
診断予測では、患者様の過去の診断記録を活用し、次回受診時またはその後の診断時に対象疾患と診断されるかどうかを予測します。
私たちは結果を、RETAIN や時間構造化 EHR データを使用した疾患予測のための現在の最先端モデルである Med-BERT などのさまざまなベースラインと比較しました。
さらに、患者の再入院予測のために CPLLM を評価し、私たちの方法のパフォーマンスをベンチマークのベースラインと比較しました。
私たちの実験では、私たちが提案した方法である CPLLM が PR-AUC および ROC-AUC メトリクスの点でテストされたすべてのモデルを上回り、診断予測と患者の再入院予測に関して最先端の結果が得られることが示されました。
このような方法は簡単に実装でき、臨床プロセスに統合できるため、医療提供者が患者の次のステップを推定するのに役立ちます。

要約(オリジナル)

We present Clinical Prediction with Large Language Models (CPLLM), a method that involves fine-tuning a pre-trained Large Language Model (LLM) for clinical disease and readmission prediction. We utilized quantization and fine-tuned the LLM using prompts. For diagnosis prediction, we predict whether patients will be diagnosed with a target disease during their next visit or in the subsequent diagnosis, leveraging their historical diagnosis records. We compared our results to various baselines, including RETAIN, and Med-BERT, the current state-of-the-art model for disease prediction using temporal structured EHR data. In addition, We also evaluated CPLLM for patient hospital readmission prediction and compared our method’s performance with benchmark baselines. Our experiments have shown that our proposed method, CPLLM, surpasses all the tested models in terms of PR-AUC and ROC-AUC metrics, showing state-of-the-art results for diagnosis prediction and patient hospital readmission prediction. Such a method can be easily implemented and integrated into the clinical process to help care providers estimate the next steps of patients

arxiv情報

提供元, 利用サービス

arxiv.jp, Google