FedSCA: Federated Tuning with Similarity-guided Collaborative Aggregation for Heterogeneous Medical Image Segmentation

要約

トランスベースの基礎モデル（FMS）は最近、医療画像のセグメンテーションにおける顕著なパフォーマンスを実証しています。
ただし、プライバシーの懸念によりデータの集中化が制限されている孤立した病院内の医療画像データセットが限られているため、これらのモデルをスケーリングすることは困難です。
これらの制約は、FMSのデータ集約的な性質と組み合わせて、より広いアプリケーションを妨げます。
Federated Learning（FL）とFoundation Models（FLFM）の微調整は、データ共有なしで共同モデルトレーニングを可能にすることにより、これらの課題に対する潜在的なソリューションを提供し、FMSが病院/クライアント全体で敏感な医療画像データの多様なプールを利用できるようにします。
ただし、クライアント間で非独立した同一に分散した（非IID）データは、連合環境での計算および通信の制約と組み合わせて、さらなるパフォーマンスの改善を制限し、既存の研究では不十分に対処されたままの追加の課題を提示します。
この作業では、新しいFLFM微調整フレームワークを提案します。
FLプロセスのすべてのフェーズを含む。
これには、（1）計算効率を高めるためのローカルクライアントトレーニング用の特別に設計されたパラメーター効率の高い微調整（PEFT）が含まれます。
（2）通信効率のための部分的な低レベルのアダプター伝送。
（3）非IIDの問題に対処するために、サーバー側の類似性誘導コラボレーション集約（SGCA）。
医療画像セグメンテーションのための3つのFLベンチマークでの広範な実験は、提案されたFEDSCAの有効性を示しており、新しいSOTAパフォーマンスを確立しています。

要約(オリジナル)

Transformer-based foundation models (FMs) have recently demonstrated remarkable performance in medical image segmentation. However, scaling these models is challenging due to the limited size of medical image datasets within isolated hospitals, where data centralization is restricted due to privacy concerns. These constraints, combined with the data-intensive nature of FMs, hinder their broader application. Integrating federated learning (FL) with foundation models (FLFM) fine-tuning offers a potential solution to these challenges by enabling collaborative model training without data sharing, thus allowing FMs to take advantage of a diverse pool of sensitive medical image data across hospitals/clients. However, non-independent and identically distributed (non-IID) data among clients, paired with computational and communication constraints in federated environments, presents an additional challenge that limits further performance improvements and remains inadequately addressed in existing studies. In this work, we propose a novel FLFM fine-tuning framework, \underline{\textbf{Fed}}erated tuning with \underline{\textbf{S}}imilarity-guided \underline{\textbf{C}}ollaborative \underline{\textbf{A}}ggregation (FedSCA), encompassing all phases of the FL process. This includes (1) specially designed parameter-efficient fine-tuning (PEFT) for local client training to enhance computational efficiency; (2) partial low-level adapter transmission for communication efficiency; and (3) similarity-guided collaborative aggregation (SGCA) on the server side to address non-IID issues. Extensive experiments on three FL benchmarks for medical image segmentation demonstrate the effectiveness of our proposed FedSCA, establishing new SOTA performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google