A Survey of Large Language Models for Healthcare: from Data, Technology, and Applications to Accountability and Ethics

要約

ヘルスケア分野での大規模言語モデル (LLM) の利用は、一定の専門知識を持ってフリーテキストのクエリに効果的に応答できるため、興奮と懸念の両方を生み出しています。
この調査は、従来の事前トレーニング済み言語モデル (PLM) から LLM への開発ロードマップの概要を提供することを目的として、現在開発されているヘルスケア向け LLM の機能の概要を示し、その開発プロセスを説明します。
具体的には、まず、さまざまなヘルスケア アプリケーションの効率と有効性を向上させる LLM の可能性を調査し、長所と限界の両方を明らかにします。
次に、以前の PLM と最新の LLM の比較、およびさまざまな LLM の相互比較を行います。
次に、関連するヘルスケア トレーニング データ、トレーニング方法、最適化戦略、および使用方法をまとめます。
最後に、医療現場での LLM の導入に関連する特有の懸念事項、特に公平性、説明責任、透明性、倫理に関して調査します。
私たちの調査は、コンピューター サイエンスとヘルスケアの専門分野の両方の観点から包括的な調査を提供します。
ヘルスケアに関する懸念についての議論に加えて、私たちは、アクセス可能なデータセット、最新の方法論、コード実装、評価ベンチマークなどのオープン ソース リソースのコレクションを Github にまとめることによって、コンピューター サイエンス コミュニティをサポートしています。
要約すると、PLM から LLM への移行という、重大なパラダイム シフトが進行中であると私たちは主張します。
この移行には、識別的 AI アプローチから生成的 AI アプローチへの移行と、モデル中心の方法論からデータ中心の方法論への移行が含まれます。

要約(オリジナル)

The utilization of large language models (LLMs) in the Healthcare domain has generated both excitement and concern due to their ability to effectively respond to freetext queries with certain professional knowledge. This survey outlines the capabilities of the currently developed LLMs for Healthcare and explicates their development process, with the aim of providing an overview of the development roadmap from traditional Pretrained Language Models (PLMs) to LLMs. Specifically, we first explore the potential of LLMs to enhance the efficiency and effectiveness of various Healthcare applications highlighting both the strengths and limitations. Secondly, we conduct a comparison between the previous PLMs and the latest LLMs, as well as comparing various LLMs with each other. Then we summarize related Healthcare training data, training methods, optimization strategies, and usage. Finally, the unique concerns associated with deploying LLMs in Healthcare settings are investigated, particularly regarding fairness, accountability, transparency and ethics. Our survey provide a comprehensive investigation from perspectives of both computer science and Healthcare specialty. Besides the discussion about Healthcare concerns, we supports the computer science community by compiling a collection of open source resources, such as accessible datasets, the latest methodologies, code implementations, and evaluation benchmarks in the Github. Summarily, we contend that a significant paradigm shift is underway, transitioning from PLMs to LLMs. This shift encompasses a move from discriminative AI approaches to generative AI approaches, as well as a shift from model-centered methodologies to datacentered methodologies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google