Pre-Training with Diffusion models for Dental Radiography segmentation

要約

医療用 X 線写真のセグメンテーション、特に歯科用 X 線写真のセグメンテーションは、特定の専門知識と労力のかかる注釈を必要とするラベル付けのコストによって大きく制限されます。
この研究では、生成モデリングで優れた結果を示したノイズ除去拡散確率モデル (DDPM) を活用した、セマンティック セグメンテーションの簡単な事前トレーニング方法を提案します。
私たちの直接的なアプローチは、ラベル効率の点で顕著なパフォーマンスを達成し、事前トレーニングと下流タスクの間でアーキテクチャを変更する必要がありません。
まず、DDPM トレーニング目標を利用して Unet を事前トレーニングし、次にセグメンテーション タスクで結果のモデルを微調整することを提案します。
歯科用 X 線写真のセグメンテーションに関する実験結果は、提案された方法が最先端の事前トレーニング方法と競合できることを示しています。

要約(オリジナル)

Medical radiography segmentation, and specifically dental radiography, is highly limited by the cost of labeling which requires specific expertise and labor-intensive annotations. In this work, we propose a straightforward pre-training method for semantic segmentation leveraging Denoising Diffusion Probabilistic Models (DDPM), which have shown impressive results for generative modeling. Our straightforward approach achieves remarkable performance in terms of label efficiency and does not require architectural modifications between pre-training and downstream tasks. We propose to first pre-train a Unet by exploiting the DDPM training objective, and then fine-tune the resulting model on a segmentation task. Our experimental results on the segmentation of dental radiographs demonstrate that the proposed method is competitive with state-of-the-art pre-training methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google