Graph Flow: Cross-layer Graph Flow Distillation for Dual Efficient Medical Image Segmentation

要約

深い畳み込みニューラル ネットワークの開発により、医用画像のセグメンテーションは近年、一連のブレークスルーを達成しました。
ただし、高性能の畳み込みニューラル ネットワークは、常に多数のパラメーターと高い計算コストを意味し、臨床シナリオでの適用を妨げます。
一方、大規模な注釈付き医用画像データセットの不足は、高性能ネットワークの適用をさらに妨げます。
これらの問題に取り組むために、ネットワーク効率と注釈効率の両方の医療画像セグメンテーションのために、包括的な知識蒸留フレームワークである Graph Flow を提案します。
具体的には、私たちのコアである Graph Flow Distillation は、クロスレイヤー バリエーションのエッセンスを、十分に訓練された面倒な教師ネットワークから、訓練されていないコンパクトな学生ネットワークに転送します。
さらに、教師ネットワークの知識を浄化するために、教師なしパラフレーズモジュールが統合されています。これは、トレーニング手順の安定化にも役立ちます。
さらに、敵対的蒸留とバニラロジット蒸留を統合することにより、統合された蒸留フレームワークを構築します。これにより、コンパクトネットワークの最終予測をさらに改善できます。
異なる教師ネットワーク (従来の畳み込みアーキテクチャまたは一般的なトランスフォーマー アーキテクチャ) と学生ネットワークを使用して、異なるモダリティ (胃癌、シナプス、BUSI、および CVC-ClinicDB) の 4 つの医用画像データセットに対して広範な実験を行います。
これらのデータセットで競争力のあるパフォーマンスを達成する方法。
さらに、二重の効率的な医療画像セグメンテーションのための新しい半教師付きパラダイムを通じて、グラフ フローの有効性を実証します。
私たちのコードは、Graph Flow で入手できます。

要約(オリジナル)

With the development of deep convolutional neural networks, medical image segmentation has achieved a series of breakthroughs in recent years. However, the high-performance convolutional neural networks always mean numerous parameters and high computation costs, which will hinder the applications in clinical scenarios. Meanwhile, the scarceness of large-scale annotated medical image datasets further impedes the application of high-performance networks. To tackle these problems, we propose Graph Flow, a comprehensive knowledge distillation framework, for both network-efficiency and annotation-efficiency medical image segmentation. Specifically, our core Graph Flow Distillation transfer the essence of cross-layer variations from a well-trained cumbersome teacher network to a non-trained compact student network. In addition, an unsupervised Paraphraser Module is integrated to purify the knowledge of the teacher network, which is also beneficial for the stabilization of training procedure. Furthermore, we build a unified distillation framework by integrating the adversarial distillation and the vanilla logits distillation, which can further refine the final predictions of the compact network. With different teacher networks (conventional convolutional architecture or prevalent transformer architecture) and student networks, we conduct extensive experiments on four medical image datasets with different modalities (Gastric Cancer, Synapse, BUSI, and CVC-ClinicDB).We demonstrate the prominent ability of our method which achieves competitive performance on these datasets. Moreover, we demonstrate the effectiveness of our Graph Flow through a novel semi-supervised paradigm for dual efficient medical image segmentation. Our code will be available at Graph Flow.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google