A Comprehensive Survey of Foundation Models in Medicine

要約

基礎モデル (FM) は、大規模なデータセットと自己教師あり学習手法を使用して開発された大規模な深層学習モデルです。
これらのモデルは、ヘルスケアを含むさまざまな下流タスクのベースとして機能します。
FM は、ヘルスケア内のさまざまな領域で導入され、大きな成功を収めています。
既存の医療ベースの調査には、これらの領域すべてがまだ含まれていません。
したがって、ヘルスケア分野の FM に関する詳細な調査を提供します。
FM の歴史、学習戦略、主力モデル、アプリケーション、課題に焦点を当てます。
私たちは、BERT や GPT ファミリーなどの FM が臨床大規模言語モデル、医用画像解析、オミクスなどのさまざまな医療領域をどのように再構築しているかを調査します。
さらに、臨床 NLP、医療コンピューター ビジョン、グラフ学習、その他の生物学関連タスクなど、FM によって促進されるヘルスケア アプリケーションの詳細な分類を提供します。
FM が提供する有望な機会にもかかわらず、FM にはいくつかの関連する課題もあり、それについて詳しく説明します。
また、医療における FM の導入を進め、関連するリスクを軽減するための医療分野における FM の能力についての洞察を研究者や実践者に提供するために、未解決の研究課題と得られる可能性のある教訓についても概説します。

要約(オリジナル)

Foundation models (FMs) are large-scale deep learning models that are developed using large datasets and self-supervised learning methods. These models serve as a base for different downstream tasks, including healthcare. FMs have been adopted with great success across various domains within healthcare. Existing healthcare-based surveys have not yet included all of these domains. Therefore, we provide a detailed survey of FMs in healthcare. We focus on the history, learning strategies, flagship models, applications, and challenges of FMs. We explore how FMs such as the BERT and GPT families are reshaping various healthcare domains, including clinical large language models, medical image analysis, and omics. Furthermore, we provide a detailed taxonomy of healthcare applications facilitated by FMs, such as clinical NLP, medical computer vision, graph learning, and other biology-related tasks. Despite the promising opportunities FMs provide, they also have several associated challenges, which are explained in detail. We also outline open research issues and potential lessons learned to provide researchers and practitioners with insights into the capabilities of FMs in healthcare to advance their deployment and mitigate associated risks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google