Adaptive Mix for Semi-Supervised Medical Image Segmentation

要約

ミックスアップは、一貫性正則化ベースの半教師あり学習方法の重要な手法であり、強-弱擬似教師用に強い摂動サンプルを生成します。
既存の混合操作は、ランダムに実行されるか、信頼性の低いパッチを信頼性の高いパッチに置き換えるなど、事前に定義されたルールに従って実行されます。
前者は摂動の程度を制御できないため、ランダムに摂動されたサンプルで過剰適合が発生しますが、後者は些細な摂動を含む画像を生成する傾向があり、どちらも一貫性学習の有効性を制限します。
この論文は、次の質問に答えることを目的としています。トレーニング中に画像の混合摂動を適応的に実行するにはどうすればよいですか?
この目的を達成するために、自己ペース学習方式で画像を混合するためのアダプティブ ミックス アルゴリズム (AdaMix) を提案します。
一般に、トレーニング中にモデルのパフォーマンスが徐々に向上することを考慮すると、AdaMix には、初期トレーニング段階で比較的単純な摂動サンプルを提供し、その後、摂動を適応的に制御することで摂動画像の難易度を徐々に高める、自分のペースで進められるカリキュラムが装備されています。
自己ペース正則化によって推定されたモデルの学習状態に基づく学位。
当社は、AdaMix を使用して、半教師あり医療画像セグメンテーション用の 3 つのフレームワーク、つまり AdaMix-ST、AdaMix-MT、および AdaMix-CT を開発しています。
2D モダリティと 3D モダリティの両方を含む 3 つの公開データセットに対する広範な実験により、提案されたフレームワークが優れたパフォーマンスを達成できることが示されました。
たとえば、AdaMix-CT は、最先端技術と比較して、10% のラベル付きデータを含む ACDC データセットで Dice で 2.62%、平均表面距離で 48.25% の相対的な改善を達成しています。
この結果は、セグメンテーション モデルの状態に基づいて動的に調整された摂動強度を使用したミックスアップ操作により、一貫性正則化の有効性が大幅に向上することを示しています。

要約(オリジナル)

Mix-up is a key technique for consistency regularization-based semi-supervised learning methods, generating strong-perturbed samples for strong-weak pseudo-supervision. Existing mix-up operations are performed either randomly or with predefined rules, such as replacing low-confidence patches with high-confidence ones. The former lacks control over the perturbation degree, leading to overfitting on randomly perturbed samples, while the latter tends to generate images with trivial perturbations, both of which limit the effectiveness of consistency learning. This paper aims to answer the following question: How can image mix-up perturbation be adaptively performed during training? To this end, we propose an Adaptive Mix algorithm (AdaMix) for image mix-up in a self-paced learning manner. Given that, in general, a model’s performance gradually improves during training, AdaMix is equipped with a self-paced curriculum that, in the initial training stage, provides relatively simple perturbed samples and then gradually increases the difficulty of perturbed images by adaptively controlling the perturbation degree based on the model’s learning state estimated by a self-paced regularize. We develop three frameworks with our AdaMix, i.e., AdaMix-ST, AdaMix-MT, and AdaMix-CT, for semi-supervised medical image segmentation. Extensive experiments on three public datasets, including both 2D and 3D modalities, show that the proposed frameworks are capable of achieving superior performance. For example, compared with the state-of-the-art, AdaMix-CT achieves relative improvements of 2.62% in Dice and 48.25% in average surface distance on the ACDC dataset with 10% labeled data. The results demonstrate that mix-up operations with dynamically adjusted perturbation strength based on the segmentation model’s state can significantly enhance the effectiveness of consistency regularization.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google