A Comprehensive Survey of Foundation Models in Medicine

要約

基礎モデル (FM) は、多くの場合、自己教師あり学習手法を使用して、大規模なデータセットでトレーニングされた大規模な深層学習モデルです。
これらのモデルは、医療やヘルスケアを含む幅広い下流タスクの汎用ベースとして機能します。
FM は、複数のヘルスケア領域にわたって目覚ましい成功を収めています。
ただし、この分野の既存の調査は、FM が大きく進歩したすべての分野を包括的にカバーしているわけではありません。
この調査では、FM の進化、学習戦略、主力モデル、アプリケーション、および関連する課題に焦点を当て、医療における FM の包括的なレビューを紹介します。
BERT や GPT ファミリーなどの著名な FM が、臨床大規模言語モデル、医用画像解析、オミクス研究など、医療のさまざまな側面をどのように変革しているかを調査します。
さらに、臨床自然言語処理、医療用コンピューター ビジョン、グラフ学習、その他の生物学およびオミクス関連のタスクにわたる、FM 対応のヘルスケア アプリケーションの詳細な分類を提供します。
FM には変革の可能性があるにもかかわらず、特有の課題も突きつけられます。
この調査では、これらの課題を掘り下げ、未解決の研究上の疑問と、研究者や実践者を導くために得られた教訓に焦点を当てます。
私たちの目標は、健康管理における FM の能力に関する貴重な洞察を提供し、責任ある展開を促進し、関連するリスクを軽減することです。

要約(オリジナル)

Foundation models (FMs) are large-scale deep learning models trained on massive datasets, often using self-supervised learning techniques. These models serve as a versatile base for a wide range of downstream tasks, including those in medicine and healthcare. FMs have demonstrated remarkable success across multiple healthcare domains. However, existing surveys in this field do not comprehensively cover all areas where FMs have made significant strides. In this survey, we present a comprehensive review of FMs in medicine, focusing on their evolution, learning strategies, flagship models, applications, and associated challenges. We examine how prominent FMs, such as the BERT and GPT families, are transforming various aspects of healthcare, including clinical large language models, medical image analysis, and omics research. Additionally, we provide a detailed taxonomy of FM-enabled healthcare applications, spanning clinical natural language processing, medical computer vision, graph learning, and other biology- and omics- related tasks. Despite the transformative potentials of FMs, they also pose unique challenges. This survey delves into these challenges and highlights open research questions and lessons learned to guide researchers and practitioners. Our goal is to provide valuable insights into the capabilities of FMs in health, facilitating responsible deployment and mitigating associated risks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google