FedEFM: Federated Endovascular Foundation Model with Unseen Data

要約

血管内手術では、X線画像のカテーテルとガイドワイヤの正確な識別は、介入リスクを減らすために不可欠です。
ただし、カテーテルとガイドワイヤーの構造を正確にセグメント化することは、ラベル付きデータの入手可能性が限られているため困難です。
Foundation Modelsは、同様のドメインデータの収集を、下流タスクのために重量を微調整できるモデルを訓練するために有望なソリューションを提供します。
それにもかかわらず、トレーニング用の大規模なデータ収集は、患者のプライバシーを維持する必要性によって制約されます。
このペーパーでは、血管内介入のための分散型連合学習設定で基礎モデルを訓練する新しい方法を提案します。
トレーニングの実現可能性を確保するために、知識蒸留フレームワーク内の微分可能なアースムーバーの距離を使用して、目に見えないデータの問題に取り組みます。
トレーニングを受けたら、基礎モデルの重みは、下流タスクの貴重な初期化を提供し、それによりタスク固有のパフォーマンスを向上させます。
集中的な実験は、私たちのアプローチが新しい最先端の結果を達成し、血管内介入とロボット支援の血管内手術の進歩に貢献し、医療領域でのデータ共有の重要な問題に対処することを示しています。

要約(オリジナル)

In endovascular surgery, the precise identification of catheters and guidewires in X-ray images is essential for reducing intervention risks. However, accurately segmenting catheter and guidewire structures is challenging due to the limited availability of labeled data. Foundation models offer a promising solution by enabling the collection of similar domain data to train models whose weights can be fine-tuned for downstream tasks. Nonetheless, large-scale data collection for training is constrained by the necessity of maintaining patient privacy. This paper proposes a new method to train a foundation model in a decentralized federated learning setting for endovascular intervention. To ensure the feasibility of the training, we tackle the unseen data issue using differentiable Earth Mover’s Distance within a knowledge distillation framework. Once trained, our foundation model’s weights provide valuable initialization for downstream tasks, thereby enhancing task-specific performance. Intensive experiments show that our approach achieves new state-of-the-art results, contributing to advancements in endovascular intervention and robotic-assisted endovascular surgery, while addressing the critical issue of data sharing in the medical domain.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google