Multimodal Clinical Trial Outcome Prediction with Large Language Models

要約

臨床試験は極めて重要で費用のかかるプロセスであり、多くの場合複数年に及び、多額の資金が必要となります。
したがって、臨床試験結果予測モデルの開発は、失敗する可能性が高い薬剤を除外することを目的としており、大幅なコスト削減の可能性を秘めています。
最近のデータ主導の試みでは、深層学習手法を活用してマルチモーダル データを統合し、臨床試験の結果を予測しています。
ただし、これらのアプローチは手動で設計されたモーダル固有のエンコーダーに依存しているため、新しいモダリティに適応するための拡張性と、異なるモダリティ間で同様の情報パターンを識別する機能の両方が制限されます。
これらの問題に対処するために、臨床試験の結果を予測するためのマルチモーダル専門家混合 (LIFTED) アプローチを提案します。
具体的には、LIFTED は、さまざまなモダリティ データを自然言語記述に変換することで統合します。
次に、LIFTED は統合されたノイズ耐性エンコーダーを構築して、モーダル固有の言語記述から情報を抽出します。
その後、疎な専門家混合フレームワークを使用して表現をさらに改良し、LIFTED が異なるモダリティ間で類似の情報パターンを識別し、同じエキスパート モデルを使用してそれらのパターンからより一貫した表現を抽出できるようにします。
最後に、専門家混合モジュールをさらに採用して、予測のためにさまざまなモダリティ表現を動的に統合します。これにより、LIFTED は、さまざまなモダリティを自動的に比較検討し、重要な情報にさらに注意を払うことができます。
実験では、LIFTED が最良のベースラインと比較して 3 つのフェーズすべてにわたって臨床試験の結果を予測するパフォーマンスを大幅に向上させ、提案した主要コンポーネントの有効性を示していることが実証されました。

要約(オリジナル)

The clinical trial is a pivotal and costly process, often spanning multiple years and requiring substantial financial resources. Therefore, the development of clinical trial outcome prediction models aims to exclude drugs likely to fail and holds the potential for significant cost savings. Recent data-driven attempts leverage deep learning methods to integrate multimodal data for predicting clinical trial outcomes. However, these approaches rely on manually designed modal-specific encoders, which limits both the extensibility to adapt new modalities and the ability to discern similar information patterns across different modalities. To address these issues, we propose a multimodal mixture-of-experts (LIFTED) approach for clinical trial outcome prediction. Specifically, LIFTED unifies different modality data by transforming them into natural language descriptions. Then, LIFTED constructs unified noise-resilient encoders to extract information from modal-specific language descriptions. Subsequently, a sparse Mixture-of-Experts framework is employed to further refine the representations, enabling LIFTED to identify similar information patterns across different modalities and extract more consistent representations from those patterns using the same expert model. Finally, a mixture-of-experts module is further employed to dynamically integrate different modality representations for prediction, which gives LIFTED the ability to automatically weigh different modalities and pay more attention to critical information. The experiments demonstrate that LIFTED significantly enhances performance in predicting clinical trial outcomes across all three phases compared to the best baseline, showcasing the effectiveness of our proposed key components.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google