Learning towards Synchronous Network Memorizability and Generalizability for Continual Segmentation across Multiple Sites

要約

臨床現場では、ストレージコストとプライバシーの制限により、セグメンテーションネットワークは、統合されたセットではなく、複数のサイトからのシーケンシャルデータストリームで継続的に学習する必要があることがよくあります。
ただし、継続的な学習プロセス中、既存の方法は通常、以前のサイトでのネットワークの記憶可能性または見えないサイトでの一般化可能性のいずれかで制限されます。
この論文は、同期記憶性と一般化可能性（SMG）の挑戦的な問題に取り組み、新しい提案されたSMG学習フレームワークを使用して、以前のサイトと見えないサイトの両方で同時にパフォーマンスを向上させることを目的としています。
まず、Synchronous Gradient Alignment（SGA）の目的を提案します。これは、以前のサイト（リプレイバッファと呼ばれる）からの小さなエグザンプラセットに対して調整された最適化を適用することにより、ネットワークの記憶可能性を促進し、\emph{だけでなく}強化します。
シミュレートされたドメインシフトの下でサイト不変性を促進することによる一般化可能性。
次に、SGA目標の最適化を簡素化するために、SGA目標を、コストのかかる計算オーバーヘッドなしで最適化するためのデュアルメタ目標として近似するデュアルメタアルゴリズムを設計します。
第三に、効率的なリハーサルのために、冗長性を減らすために追加のサイト間ダイバーシティを考慮して、リプレイバッファを包括的に構成します。
6つの研究所から順次取得された前立腺MRIデータの実験は、私たちの方法が最先端の方法よりも高い記憶性と一般化可能性を同時に達成できることを示しています。
コードはhttps://github.com/jingyzhang/SMG-Learningで入手できます。

要約(オリジナル)

In clinical practice, a segmentation network is often required to continually learn on a sequential data stream from multiple sites rather than a consolidated set, due to the storage cost and privacy restriction. However, during the continual learning process, existing methods are usually restricted in either network memorizability on previous sites or generalizability on unseen sites. This paper aims to tackle the challenging problem of Synchronous Memorizability and Generalizability (SMG) and to simultaneously improve performance on both previous and unseen sites, with a novel proposed SMG-learning framework. First, we propose a Synchronous Gradient Alignment (SGA) objective, which \emph{not only} promotes the network memorizability by enforcing coordinated optimization for a small exemplar set from previous sites (called replay buffer), \emph{but also} enhances the generalizability by facilitating site-invariance under simulated domain shift. Second, to simplify the optimization of SGA objective, we design a Dual-Meta algorithm that approximates the SGA objective as dual meta-objectives for optimization without expensive computation overhead. Third, for efficient rehearsal, we configure the replay buffer comprehensively considering additional inter-site diversity to reduce redundancy. Experiments on prostate MRI data sequentially acquired from six institutes demonstrate that our method can simultaneously achieve higher memorizability and generalizability over state-of-the-art methods. Code is available at https://github.com/jingyzhang/SMG-Learning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google