Closing the Generalization Gap of Cross-silo Federated Medical Image Segmentation

要約

クロスサイロ フェデレーテッド ラーニング (FL) は、不十分なデータ、データのプライバシー、およびトレーニング効率の重要な問題を解決できるため、ディープ ラーニングを使用した医用画像分析で近年大きな注目を集めています。
ただし、FL からトレーニングされたモデルと集中型トレーニングからのモデルとの間には、一般化のギャップが生じる可能性があります。
この重要な問題は、参加しているクライアントのローカル データの非 iid データ分散に起因しており、クライアント ドリフトとしてよく知られています。
この作業では、新しいトレーニング フレームワーク FedSM を提案して、クライアント ドリフトの問題を回避し、医療画像セグメンテーション タスクの集中型トレーニングと比較して一般化のギャップを初めて埋めることに成功しました。
また、新しいパーソナライズされた FL 客観的定式化と、提案されたフレームワーク FedSM でそれを解決するための新しい方法 SoftPull も提案します。
非凸の滑らかな目的関数を最適化するための収束を保証するために、厳密な理論的分析を行います。
ディープ FL を使用した実世界の医用画像セグメンテーション実験により、提案された方法の動機と有効性が検証されます。

要約(オリジナル)

Cross-silo federated learning (FL) has attracted much attention in medical imaging analysis with deep learning in recent years as it can resolve the critical issues of insufficient data, data privacy, and training efficiency. However, there can be a generalization gap between the model trained from FL and the one from centralized training. This important issue comes from the non-iid data distribution of the local data in the participating clients and is well-known as client drift. In this work, we propose a novel training framework FedSM to avoid the client drift issue and successfully close the generalization gap compared with the centralized training for medical image segmentation tasks for the first time. We also propose a novel personalized FL objective formulation and a new method SoftPull to solve it in our proposed framework FedSM. We conduct rigorous theoretical analysis to guarantee its convergence for optimizing the non-convex smooth objective function. Real-world medical image segmentation experiments using deep FL validate the motivations and effectiveness of our proposed method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google