Rethinking Semi-Supervised Medical Image Segmentation: A Variance-Reduction Perspective

要約

医用画像セグメンテーションでは、意味的に類似したサンプルと非類似のサンプルの組を対比させることで視覚表現の品質を向上させる対比学習が主流である。これは、真実にアクセスすることなく、解剖学的特徴が真に異なる負のサンプルをサンプリングすれば、性能を大幅に向上させることができるという観測によって可能となった。しかし現実には、これらのサンプルは類似した解剖学的特徴から来る場合があり、モデルは少数派のテールクラスのサンプルを区別するのに苦労し、テールクラスが誤分類されやすくなり、その両方が典型的にモデル崩壊につながる。本論文では、医用画像セグメンテーションにおいて、層別群サンプリング理論を用いた半教師付き対比学習（CL）フレームワークであるARCOを提案する。特に、まず分散低減推定の概念によりARCOを構築することを提案し、ある種の分散低減技術がラベルが極端に少ない医用画像セグメンテーション課題において特に有効であることを示す。さらに、これらのサンプリング技術が分散低減において普遍的であることを理論的に証明する。最後に、異なるラベル設定を持つ3つのベンチマークデータセットで我々のアプローチを実験的に検証し、我々の手法は一貫して、最新の半教師付きおよび完全教師付き手法を上回る性能を持つことを示す。さらに、これらのサンプリング技術でCLフレームワークを補強し、従来の方法と比較して大きな利点を実証した。本研究は、医用画像解析タスクを達成するための現在の自己教師付与の目的の限界を定量化することにより、半教師付き医用画像分割に向けた重要なステップとなると考えている。

要約(オリジナル)

For medical image segmentation, contrastive learning is the dominant practice to improve the quality of visual representations by contrasting semantically similar and dissimilar pairs of samples. This is enabled by the observation that without accessing ground truth label, negative examples with truly dissimilar anatomical features, if sampled, can significantly improve the performance. In reality, however, these samples may come from similar anatomical features and the models may struggle to distinguish the minority tail-class samples, making the tail classes more prone to misclassification, both of which typically lead to model collapse. In this paper, we propose ARCO, a semi-supervised contrastive learning (CL) framework with stratified group sampling theory in medical image segmentation. In particular, we first propose building ARCO through the concept of variance-reduced estimation, and show that certain variance-reduction techniques are particularly beneficial in medical image segmentation tasks with extremely limited labels. Furthermore, we theoretically prove these sampling techniques are universal in variance reduction. Finally, we experimentally validate our approaches on three benchmark datasets with different label settings, and our methods consistently outperform state-of-the-art semi- and fully-supervised methods. Additionally, we augment the CL frameworks with these sampling techniques and demonstrate significant gains over previous methods. We believe our work is an important step towards semi-supervised medical image segmentation by quantifying the limitation of current self-supervision objectives for accomplishing medical image analysis tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL