On Evaluating Adversarial Robustness of Volumetric Medical Segmentation Models

要約

体積医療セグメンテーション モデルは、近年、臓器および腫瘍ベースのセグメンテーション タスクで大きな成功を収めています。
しかし、敵対的攻撃に対する脆弱性はほとんど解明されていないため、医療分野でそのようなモデルを採用したツールを実際に導入することに関して深刻な懸念が生じています。
これは、既存のモデルの堅牢性を調査することの重要性を強調しています。
これに関連して、私たちの研究は、畳み込み、Transformer、および Mamba ベースのモデルを含む、現在のボリューム セグメンテーション アーキテクチャ全体にわたる敵対的な堅牢性を経験的に調べることを目的としています。
この調査を 4 つのボリューム セグメンテーション データセットに拡張し、ホワイト ボックスとブラック ボックスの両方の敵対的攻撃に対する堅牢性を評価します。
全体として、ピクセルベースの攻撃と周波数ベースの攻撃はどちらもホワイト ボックス設定ではかなり良好にパフォーマンスしますが、後者は転送ベースのブラック ボックス攻撃では大幅にパフォーマンスが優れていることがわかります。
私たちの実験を通じて、トランスフォーマーベースのモデルは畳み込みベースのモデルよりも高い堅牢性を示し、Mamba ベースのモデルが最も脆弱であることが観察されました。
さらに、ボリュームセグメンテーションモデルの大規模トレーニングにより、敵対的な攻撃に対するモデルの堅牢性が向上することを示します。
コードと事前トレーニングされたモデルは、https://github.com/HashmatShadab/Robustness-of- Volumetric-Medical-Segmentation-Models で利用可能になります。

要約(オリジナル)

Volumetric medical segmentation models have achieved significant success on organ and tumor-based segmentation tasks in recent years. However, their vulnerability to adversarial attacks remains largely unexplored, raising serious concerns regarding the real-world deployment of tools employing such models in the healthcare sector. This underscores the importance of investigating the robustness of existing models. In this context, our work aims to empirically examine the adversarial robustness across current volumetric segmentation architectures, encompassing Convolutional, Transformer, and Mamba-based models. We extend this investigation across four volumetric segmentation datasets, evaluating robustness under both white box and black box adversarial attacks. Overall, we observe that while both pixel and frequency-based attacks perform reasonably well under white box setting, the latter performs significantly better under transfer-based black box attacks. Across our experiments, we observe transformer-based models show higher robustness than convolution-based models with Mamba-based models being the most vulnerable. Additionally, we show that large-scale training of volumetric segmentation models improves the model’s robustness against adversarial attacks. The code and pretrained models will be made available at https://github.com/HashmatShadab/Robustness-of-Volumetric-Medical-Segmentation-Models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google