DA-TransUNet: Integrating Spatial and Channel Dual Attention with Transformer U-Net for Medical Image Segmentation

要約

正確な医療画像のセグメンテーションは、疾患の定量化と治療の評価にとって重要です。
一方、従来の Unet アーキテクチャとそのトランス統合型バリアントは、自動セグメンテーション タスクに優れています。
ただし、画像の固有の位置とチャネルの特徴を利用する能力がありません。
既存のモデルも、多くの場合、Transformer の広範な使用が原因で、パラメーターの効率性と計算の複雑さに苦労しています。
これらの問題に対処するために、この研究では、従来の U 字型アーキテクチャに Transformer とデュアル アテンション ブロック (DA-Block) を統合することを目的とした、DA-TransUNet と呼ばれる新しいディープ医療画像セグメンテーション フレームワークを提案します。
以前のトランスフォーマーベースの U-net モデルとは異なり、DA-TransUNet はトランスフォーマーと DA-Block を利用して、グローバルおよびローカルの特徴だけでなく、画像固有の位置およびチャネルの特徴も統合し、医用画像セグメンテーションのパフォーマンスを向上させます。
埋め込み層および各スキップ接続層内に DA ブロックを組み込むことにより、特徴抽出能力が大幅に強化され、エンコーダ/デコーダ構造の効率が向上します。
DA-TransUNet は、医療画像セグメンテーション タスクにおいて優れたパフォーマンスを示し、複数のデータセットにわたって一貫して最先端の技術を上回ります。
要約すると、DA-TransUNet は医療画像のセグメンテーションに大幅な進歩をもたらし、既存の技術に効果的かつ強力な代替手段を提供します。
当社のアーキテクチャは、セグメンテーションの精度を向上させる能力で際立っており、それによって自動医療画像診断の分野が進歩します。
私たちのモデルのコードとパラメーターは、https://github.com/SUN-1024/DA-TransUnet で公開されます。

要約(オリジナル)

Accurate medical image segmentation is critical for disease quantification and treatment evaluation. While traditional Unet architectures and their transformer-integrated variants excel in automated segmentation tasks. However, they lack the ability to harness the intrinsic position and channel features of image. Existing models also struggle with parameter efficiency and computational complexity, often due to the extensive use of Transformers. To address these issues, this study proposes a novel deep medical image segmentation framework, called DA-TransUNet, aiming to integrate the Transformer and dual attention block(DA-Block) into the traditional U-shaped architecture. Unlike earlier transformer-based U-net models, DA-TransUNet utilizes Transformers and DA-Block to integrate not only global and local features, but also image-specific positional and channel features, improving the performance of medical image segmentation. By incorporating a DA-Block at the embedding layer and within each skip connection layer, we substantially enhance feature extraction capabilities and improve the efficiency of the encoder-decoder structure. DA-TransUNet demonstrates superior performance in medical image segmentation tasks, consistently outperforming state-of-the-art techniques across multiple datasets. In summary, DA-TransUNet offers a significant advancement in medical image segmentation, providing an effective and powerful alternative to existing techniques. Our architecture stands out for its ability to improve segmentation accuracy, thereby advancing the field of automated medical image diagnostics. The codes and parameters of our model will be publicly available at https://github.com/SUN-1024/DA-TransUnet.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google