Learning Federated Visual Prompt in Null Space for MRI Reconstruction

要約

Federated Magnetic Resonance Imaging (MRI) 再構成により、複数の病院がローカル データを集約することなく分散して共同作業できるため、患者のプライバシーが保護されます。
ただし、異なる MRI プロトコル、不十分なローカル トレーニング データ、および限られた通信帯域幅によって引き起こされるデータの不均一性は、必然的にグローバル モデルの収束と更新を損ないます。
この論文では、MRI再構成のためのグローバルプロンプトのヌル空間で連合視覚プロンプトを学習するための新しいアルゴリズムFedPRを提案します。
FedPR は、事前にトレーニングされた強力なモデルを採用し、学習可能なパラメーターをほとんど使用せずにプロンプ​​トを学習して伝達する新しいフェデレーテッド パラダイムです。これにより、通信コストが大幅に削減され、限られたローカル データで競争力のあるパフォーマンスが達成されます。
さらに、データの不均一性によって引き起こされる壊滅的な忘却に対処するために、FedPR は、ローカル プロンプトをグローバル プロンプトのほぼゼロ空間に投影する効率的なフェデレーション ビジュアル プロンプトも更新し、それによってサーバー パフォーマンスに対する勾配の干渉を抑制します。
フェデレーテッド MRI に関する広範な実験では、限られた量のローカル トレーニング データが与えられた場合、FedPR が 6% 未満の通信コストで最先端の FL アルゴリズムよりも大幅に優れていることが示されています。

要約(オリジナル)

Federated Magnetic Resonance Imaging (MRI) reconstruction enables multiple hospitals to collaborate distributedly without aggregating local data, thereby protecting patient privacy. However, the data heterogeneity caused by different MRI protocols, insufficient local training data, and limited communication bandwidth inevitably impair global model convergence and updating. In this paper, we propose a new algorithm, FedPR, to learn federated visual prompts in the null space of global prompt for MRI reconstruction. FedPR is a new federated paradigm that adopts a powerful pre-trained model while only learning and communicating the prompts with few learnable parameters, thereby significantly reducing communication costs and achieving competitive performance on limited local data. Moreover, to deal with catastrophic forgetting caused by data heterogeneity, FedPR also updates efficient federated visual prompts that project the local prompts into an approximate null space of the global prompt, thereby suppressing the interference of gradients on the server performance. Extensive experiments on federated MRI show that FedPR significantly outperforms state-of-the-art FL algorithms with <6% of communication costs when given the limited amount of local training data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google