IOP-FL: Inside-Outside Personalization for Federated Medical Image Segmentation

要約

フェデレーテッド ラーニング (FL) を使用すると、クライアント データを一元化することなく、複数の医療機関がグローバル モデルを共同で学習できます。
さまざまなスキャナーや患者の人口統計からの医療画像の不均一性により、このようなグローバルモデルが個々のクライアントごとに最適なパフォーマンスを共通に達成することは、たとえ可能であったとしても困難です。
この問題は、フェデレーテッド トレーニング中に提示されない目に見えないディストリビューションを使用して、FL 外の目に見えないクライアントにグローバル モデルをデプロイする場合にさらに深刻になります。
医用画像処理タスクの個々のクライアントの予測精度を最適化するために、\textit{FL の内部モデルと外部モデルの個人化} (IOP-FL) の両方のための新しい統合フレームワークを提案します。
当社のインサイド パーソナライゼーションは、一般的な知識のためのグローバルな勾配とクライアント固有の最適化のためのローカルな勾配の両方を蓄積することにより、クライアントごとにローカルに適応したモデルを活用する軽量な勾配ベースのアプローチを使用します。
さらに、重要なことに、取得されたローカルのパーソナライズされたモデルとグローバル モデルは、多様で有益なルーティング スペースを形成して、外部の FL クライアント用に適合したモデルをパーソナライズできます。
したがって、テストデータによって伝達される分布情報を考慮して、モデルを動的に組み込むために形状制約付きの一貫性損失を使用して、新しいテスト時間ルーティングスキームを設計します。
2 つの医用画像セグメンテーション タスクに関する広範な実験結果は、SOTA メソッドよりも内側と外側の両方のパーソナライゼーションで大幅な改善を示しており、臨床診療における IOP-FL スキームの可能性を示しています。

要約(オリジナル)

Federated learning (FL) allows multiple medical institutions to collaboratively learn a global model without centralizing client data. It is difficult, if possible at all, for such a global model to commonly achieve optimal performance for each individual client, due to the heterogeneity of medical images from various scanners and patient demographics. This problem becomes even more significant when deploying the global model to unseen clients outside the FL with unseen distributions not presented during federated training. To optimize the prediction accuracy of each individual client for medical imaging tasks, we propose a novel unified framework for both \textit{Inside and Outside model Personalization in FL} (IOP-FL). Our inside personalization uses a lightweight gradient-based approach that exploits the local adapted model for each client, by accumulating both the global gradients for common knowledge and the local gradients for client-specific optimization. Moreover, and importantly, the obtained local personalized models and the global model can form a diverse and informative routing space to personalize an adapted model for outside FL clients. Hence, we design a new test-time routing scheme using the consistency loss with a shape constraint to dynamically incorporate the models, given the distribution information conveyed by the test data. Our extensive experimental results on two medical image segmentation tasks present significant improvements over SOTA methods on both inside and outside personalization, demonstrating the potential of our IOP-FL scheme for clinical practice.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google