Bayesian Pseudo Labels: Expectation Maximization for Robust and Efficient Semi-Supervised Segmentation

要約

この論文は、セグメンテーションにおける疑似ラベリングに関するものです。
私たちの貢献は 4 倍です。
まず、明確な統計的解釈のための期待値最大化 (EM) アルゴリズムとして疑似ラベリングの新しい定式化を提示します。
第二に、元の疑似ラベリング、すなわち SegPL に純粋に基づく、半教師付き医用画像セグメンテーション方法を提案します。
SegPL は、2D マルチクラス MRI 脳腫瘍セグメンテーション タスクと 3D バイナリ CT 肺血管セグメンテーション タスクでの半教師付きセグメンテーションの最先端の一貫性正則化ベースの方法に対する競争力のあるアプローチであることを示します。
SegPL の単純さにより、以前の方法と比較して計算コストを削減できます。
第三に、SegPL の有効性は、配信外ノイズや敵対的攻撃に対する堅牢性に起因する可能性があることを示します。
最後に、EM フレームワークの下で、変分推論による SegPL の確率的一般化を導入します。これは、トレーニング中に疑似ラベリングの動的しきい値を学習します。
変分推論を使用した SegPL が、ゴールド スタンダード手法である Deep Ensemble と同等の不確実性推定を実行できることを示します。

要約(オリジナル)

This paper concerns pseudo labelling in segmentation. Our contribution is fourfold. Firstly, we present a new formulation of pseudo-labelling as an Expectation-Maximization (EM) algorithm for clear statistical interpretation. Secondly, we propose a semi-supervised medical image segmentation method purely based on the original pseudo labelling, namely SegPL. We demonstrate SegPL is a competitive approach against state-of-the-art consistency regularisation based methods on semi-supervised segmentation on a 2D multi-class MRI brain tumour segmentation task and a 3D binary CT lung vessel segmentation task. The simplicity of SegPL allows less computational cost comparing to prior methods. Thirdly, we demonstrate that the effectiveness of SegPL may originate from its robustness against out-of-distribution noises and adversarial attacks. Lastly, under the EM framework, we introduce a probabilistic generalisation of SegPL via variational inference, which learns a dynamic threshold for pseudo labelling during the training. We show that SegPL with variational inference can perform uncertainty estimation on par with the gold-standard method Deep Ensemble.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google