Fast-DDPM: Fast Denoising Diffusion Probabilistic Models for Medical Image-to-Image Generation

要約

ノイズ除去拡散確率モデル (DDPM) は、コンピューター ビジョンにおいて前例のない成功を収めました。
しかし、疾患の診断と治療計画に不可欠な分野である医療画像処理では、依然として十分に活用されていません。
これは主に、(1) 拡散プロセスでの多数のタイム ステップ (例: 1,000) の使用、および (2) 多くの場合 3D または 4D である医療画像の次元の増加に関連する計算コストが高いためです。
医療画像での拡散モデルのトレーニングには通常、数日から数週間かかりますが、各画像ボリュームのサンプリングには数分から数時間かかります。
この課題に対処するために、トレーニング速度、サンプリング速度、生成品質を同時に改善できるシンプルかつ効果的なアプローチである Fast-DDPM を導入します。
1,000 タイム ステップにわたって画像デノイザーをトレーニングする DDPM とは異なり、Fast-DDPM は 10 タイム ステップのみを使用してトレーニングとサンプリングを行います。
私たちの方法の鍵は、タイムステップの利用を最適化するためにトレーニングとサンプリングの手順を調整することにあります。
具体的には、10 タイム ステップを持つ 2 つの効率的なノイズ スケジューラを導入しました。1 つは均一なタイム ステップ サンプリングで、もう 1 つは不均一なサンプリングです。
私たちは、マルチ画像の超解像、画像のノイズ除去、画像間の変換という 3 つの医療画像間の生成タスクにわたって Fast-DDPM を評価しました。
Fast-DDPM は、すべてのタスクにおいて、DDPM や畳み込みネットワークと敵対的生成ネットワークに基づく現在の最先端の手法を上回りました。
さらに、Fast-DDPM は、DDPM と比較してトレーニング時間を 0.2 倍、サンプリング時間を 0.01 倍に短縮しました。
私たちのコードは https://github.com/mirthAI/Fast-DDPM で公開されています。

要約(オリジナル)

Denoising diffusion probabilistic models (DDPMs) have achieved unprecedented success in computer vision. However, they remain underutilized in medical imaging, a field crucial for disease diagnosis and treatment planning. This is primarily due to the high computational cost associated with (1) the use of large number of time steps (e.g., 1,000) in diffusion processes and (2) the increased dimensionality of medical images, which are often 3D or 4D. Training a diffusion model on medical images typically takes days to weeks, while sampling each image volume takes minutes to hours. To address this challenge, we introduce Fast-DDPM, a simple yet effective approach capable of improving training speed, sampling speed, and generation quality simultaneously. Unlike DDPM, which trains the image denoiser across 1,000 time steps, Fast-DDPM trains and samples using only 10 time steps. The key to our method lies in aligning the training and sampling procedures to optimize time-step utilization. Specifically, we introduced two efficient noise schedulers with 10 time steps: one with uniform time step sampling and another with non-uniform sampling. We evaluated Fast-DDPM across three medical image-to-image generation tasks: multi-image super-resolution, image denoising, and image-to-image translation. Fast-DDPM outperformed DDPM and current state-of-the-art methods based on convolutional networks and generative adversarial networks in all tasks. Additionally, Fast-DDPM reduced the training time to 0.2x and the sampling time to 0.01x compared to DDPM. Our code is publicly available at: https://github.com/mirthAI/Fast-DDPM.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google