Towards Holistic Disease Risk Prediction using Small Language Models

要約

ヘルスケア領域のデータは、X 線画像、連続測定、臨床記録など、さまざまなソースやモダリティから生成されます。
医療従事者は、これらのさまざまな種類のデータを毎日統合して、情報に基づいた正確な意思決定を行っています。
マルチモーダル データを処理できる言語モデルが最近進歩したため、これらのモデルを医療分野に適用することは論理的な進歩です。
この研究では、さまざまな病気のリスクを同時に予測することを目的として、小さな言語モデルを複数のデータ ソースに接続するフレームワークを紹介します。
私たちの実験には、マルチタスク学習セットアップ内の 12 の異なるタスクが含まれています。
私たちのアプローチは単一タスクに特化した最先端の手法を超えるものではありませんが、競争力のあるパフォーマンスを実証し、医療におけるマルチモーダル推論のための小さな言語モデルの可能性を強調しています。

要約(オリジナル)

Data in the healthcare domain arise from a variety of sources and modalities, such as x-ray images, continuous measurements, and clinical notes. Medical practitioners integrate these diverse data types daily to make informed and accurate decisions. With recent advancements in language models capable of handling multimodal data, it is a logical progression to apply these models to the healthcare sector. In this work, we introduce a framework that connects small language models to multiple data sources, aiming to predict the risk of various diseases simultaneously. Our experiments encompass 12 different tasks within a multitask learning setup. Although our approach does not surpass state-of-the-art methods specialized for single tasks, it demonstrates competitive performance and underscores the potential of small language models for multimodal reasoning in healthcare.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google