CyTran: A Cycle-Consistent Transformer with Multi-Level Consistency for Non-Contrast to Contrast CT Translation

要約

タイトル:非造影CTスキャンから造影CTスキャンへの変換のためのサイクル一貫性トランスフォーマー

要約:
– 本論文では、非造影CTスキャンから造影CTスキャンへの自動変換手法を提案する。
– このタスクの達成には、造影物質注入が不可能な患者に対して造影CTスキャンを生成すること(i)、および、造影物質によって引き起こされる差異を減らして造影と非造影CTの整列を向上させること(ii)が含まれる。
– 本手法は、サイクル一貫性を考慮した生成対抗的畳み込みトランスフォーマーであり、略してCyTranと呼ばれる。
– 中間特徴表現間の追加のサイクル一貫性損失を適用することで、モデルを多レベルでサイクル一貫性を持つようにすることで、優れた結果を導く。
– 高解像度画像に対処するために、畳み込みとマルチヘッドアテンション層に基づくハイブリッドアーキテクチャを設計する。
– 新しいデータセット「Coltea-Lung-CT-100W」を導入し、本手法を従来手法と比較するための実験を行う。
– 実験の結果、CyTranはすべての競合手法を上回ったことが示された。また、CyTranは、医療画像整列手法の改善のための初期ステップとしても利用できることが示された。
– 本手法とデータセットは、オープンソースとして公開されている(https://github.com/ristea/cycle-transformer)。

要約(オリジナル)

We propose a novel approach to translate unpaired contrast computed tomography (CT) scans to non-contrast CT scans and the other way around. Solving this task has two important applications: (i) to automatically generate contrast CT scans for patients for whom injecting contrast substance is not an option, and (ii) to enhance the alignment between contrast and non-contrast CT by reducing the differences induced by the contrast substance before registration. Our approach is based on cycle-consistent generative adversarial convolutional transformers, for short, CyTran. Our neural model can be trained on unpaired images, due to the integration of a multi-level cycle-consistency loss. Aside from the standard cycle-consistency loss applied at the image level, we propose to apply additional cycle-consistency losses between intermediate feature representations, which enforces the model to be cycle-consistent at multiple representations levels, leading to superior results. To deal with high-resolution images, we design a hybrid architecture based on convolutional and multi-head attention layers. In addition, we introduce a novel data set, Coltea-Lung-CT-100W, containing 100 3D triphasic lung CT scans (with a total of 37,290 images) collected from 100 female patients (there is one examination per patient). Each scan contains three phases (non-contrast, early portal venous, and late arterial), allowing us to perform experiments to compare our novel approach with state-of-the-art methods for image style transfer. Our empirical results show that CyTran outperforms all competing methods. Moreover, we show that CyTran can be employed as a preliminary step to improve a state-of-the-art medical image alignment method. We release our novel model and data set as open source at https://github.com/ristea/cycle-transformer.

arxiv情報

著者 Nicolae-Catalin Ristea,Andreea-Iuliana Miron,Olivian Savencu,Mariana-Iuliana Georgescu,Nicolae Verga,Fahad Shahbaz Khan,Radu Tudor Ionescu
発行日 2023-04-05 09:36:33+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, OpenAI

カテゴリー: cs.CV, cs.LG, eess.IV パーマリンク