UNETR++: Delving into Efficient and Accurate 3D Medical Image Segmentation

要約

変圧器モデルの成功により、最近の研究では 3D 医療セグメンテーション タスクへの適用性が研究されています。
トランスフォーマー モデル内では、セルフアテンション メカニズムは、ローカルの畳み込みベースの設計と比較して、長期的な依存関係を取得しようとする主要なビルディング ブロックの 1 つです。
ただし、セルフアテンション操作には二次的な複雑さがあり、特に入力が多数のスライスを含む 3D であるボリューム メディカル イメージングでは、計算上のボトルネックであることが証明されています。
このホワイト ペーパーでは、高品質のセグメンテーション マスクと、パラメーターと計算コストの面での効率の両方を提供する、UNETR++ という名前の 3D 医用画像セグメンテーション アプローチを提案します。
私たちの設計の核心は、空間およびチャネルの注意に基づく相互依存ブランチのペアを使用して、空間およびチャネルごとの識別機能を効率的に学習する、新しい効率的な一対の注意 (EPA) ブロックの導入です。
私たちの空間的注意の定式化は、入力シーケンスの長さに関して線形の複雑さを持つ効率的です。
空間的およびチャネルに焦点を当てたブランチ間の通信を可能にするために、全体的なネットワーク パラメーターを削減しながら、補完的な利点 (ペア アテンション) を提供するクエリおよびキー マッピング関数の重みを共有します。
3 つのベンチマーク、Synapse、BTCV、および ACDC に関する広範な評価により、効率と精度の両方の観点から、提案された貢献の有効性が明らかになりました。
Synapse データセットでは、当社の UNETR++ は 87.2% の Dice Similarity Score で新しい最先端を設定し、既存の最良の方法と比較してパラメーターと FLOP の両方で 71% 以上の削減で大幅に効率的です。
文学で。
コード: https://github.com/Amshaker/unetr_plus_plus。

要約(オリジナル)

Owing to the success of transformer models, recent works study their applicability in 3D medical segmentation tasks. Within the transformer models, the self-attention mechanism is one of the main building blocks that strives to capture long-range dependencies, compared to the local convolutional-based design. However, the self-attention operation has quadratic complexity which proves to be a computational bottleneck, especially in volumetric medical imaging, where the inputs are 3D with numerous slices. In this paper, we propose a 3D medical image segmentation approach, named UNETR++, that offers both high-quality segmentation masks as well as efficiency in terms of parameters and compute cost. The core of our design is the introduction of a novel efficient paired attention (EPA) block that efficiently learns spatial and channel-wise discriminative features using a pair of inter-dependent branches based on spatial and channel attention. Our spatial attention formulation is efficient having linear complexity with respect to the input sequence length. To enable communication between spatial and channel-focused branches, we share the weights of query and key mapping functions that provide a complimentary benefit (paired attention), while also reducing the overall network parameters. Our extensive evaluations on three benchmarks, Synapse, BTCV and ACDC, reveal the effectiveness of the proposed contributions in terms of both efficiency and accuracy. On Synapse dataset, our UNETR++ sets a new state-of-the-art with a Dice Similarity Score of 87.2%, while being significantly efficient with a reduction of over 71% in terms of both parameters and FLOPs, compared to the best existing method in the literature. Code: https://github.com/Amshaker/unetr_plus_plus.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google