Large Language Model as a Universal Clinical Multi-task Decoder

要約

臨床システムの効率と精度を高めるための効果的な機械学習方法論の開発は非常に重要です。
多大な研究努力にもかかわらず、多数の多様化した臨床タスクを管理し、新たなタスクに適応することは依然として大きな課題です。
この論文では、事前にトレーニングされた大規模言語モデルを汎用臨床マルチタスク デコーダとして使用する新しいパラダイムを紹介します。
このアプローチでは、言語表現の柔軟性と多様性を活用して、タスクのトピックのバリエーションと関連する引数を処理します。
新しいタスクの導入には、新しい指示テンプレートを追加するだけで済みます。
私たちはこのフレームワークを数百のタスクにわたって検証し、マルチタスク予測を容易にする堅牢性を実証し、従来のマルチタスク学習アプローチやシングルタスク学習アプローチと同等のパフォーマンスを発揮します。
さらに、新しいタスクに対する優れた適応性を示し、場合によってはゼロショットのパフォーマンスが優れており、ショット数が少ないシナリオでは優れたデータ効率を発揮します。
この斬新なアプローチは、臨床アプリケーションにおける幅広い新規タスクを管理するための統合ソリューションを提供します。

要約(オリジナル)

The development of effective machine learning methodologies for enhancing the efficiency and accuracy of clinical systems is crucial. Despite significant research efforts, managing a plethora of diversified clinical tasks and adapting to emerging new tasks remain significant challenges. This paper presents a novel paradigm that employs a pre-trained large language model as a universal clinical multi-task decoder. This approach leverages the flexibility and diversity of language expressions to handle task topic variations and associated arguments. The introduction of a new task simply requires the addition of a new instruction template. We validate this framework across hundreds of tasks, demonstrating its robustness in facilitating multi-task predictions, performing on par with traditional multi-task learning and single-task learning approaches. Moreover, it shows exceptional adaptability to new tasks, with impressive zero-shot performance in some instances and superior data efficiency in few-shot scenarios. This novel approach offers a unified solution to manage a wide array of new and emerging tasks in clinical applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google