Multi-Site Class-Incremental Learning with Weighted Experts in Echocardiography

要約

実際の症例で性能を維持する心エコー図ビュー分類器を構築するには、多様なマルチサイトデータが必要であり、モデルのドリフトを軽減するために、新たに利用可能になったデータで頻繁に更新する必要がある。新しいデータセットでファインチューニングを行うだけでは、「壊滅的な忘却」となり、サイト間のビューラベルのばらつきに適応できません。また、データ共有契約によって画像の転送が制限されたり、データセットが異なる時期にしか利用できなくなったりするため、すべてのデータを1つのサーバーに集めて再トレーニングを行うことは現実的ではないかもしれない。さらに、再トレーニングにかかる時間とコストは、新しいデータセットが増えるごとに増大する。我々は、データセット毎にエキスパートネットワークを学習し、全てのエキスパートネットワークをスコア融合モデルで結合するクラス増加学習法を提案する。学習された分布内スコアでそれぞれの寄与に重み付けすることで、「不適格な専門家」の影響を最小化する。これらの重み付けは、推論中に各エキスパートの寄与が分かるため、透明性を促進する。元の画像を使用する代わりに、各データセットから学習された特徴を使用する。複数のサイトからの6つのデータセットで我々の研究を検証し、ビューの分類性能を向上させながら、学習時間の大幅な短縮を実証する。

要約(オリジナル)

Building an echocardiography view classifier that maintains performance in real-life cases requires diverse multi-site data, and frequent updates with newly available data to mitigate model drift. Simply fine-tuning on new datasets results in ‘catastrophic forgetting’, and cannot adapt to variations of view labels between sites. Alternatively, collecting all data on a single server and re-training may not be feasible as data sharing agreements may restrict image transfer, or datasets may only become available at different times. Furthermore, time and cost associated with re-training grows with every new dataset. We propose a class-incremental learning method which learns an expert network for each dataset, and combines all expert networks with a score fusion model. The influence of “unqualified experts” is minimised by weighting each contribution with a learnt in-distribution score. These weights promote transparency as the contribution of each expert is known during inference. Instead of using the original images, we use learned features from each dataset, which are easier to share and raise fewer licensing and privacy concerns. We validate our work on six datasets from multiple sites, demonstrating significant reductions in training time while improving view classification performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL