Universal Adversarial Framework to Improve Adversarial Robustness for Diabetic Retinopathy Detection

要約

糖尿病性網膜症（DR）は、糖尿病に関連する一般的な病気であり、治療せずに放置すると不可逆的な失明につながる可能性があります。
深層学習ベースのシステムは、臨床診断の自動サポートとして徐々に導入されています。
ヘルスケアは常にエラーのないパフォーマンスが要求される非常に重要な領域であるため、敵対者はそのようなシステムの適用可能性に対して大きな脅威となる可能性があります。
この研究では、ユニバーサル敵対的摂動 (UAP) を使用して、DR を検出するための医療ディープ ニューラル ネットワーク (DNN) の脆弱性を定量化します。
私たちの知る限り、これはさまざまな UAP を使用して DR イメージの完全に詳細な分類を攻撃する最初の試みです。
また、この作業の一環として、UAP を使用してトレーニング済みモデルを微調整し、敵対的なサンプルから防御します。
私たちはいくつかのモデルを実験し、目に見えない敵対的攻撃に対するそのようなモデルのパフォーマンスが平均で $3.41$ コーエン カッパ値、最大で $31.92$ コーエン カッパ値だけ向上することを観察しました。
微調整されたモデルをアンサンブルした際の通常データのパフォーマンス低下は、t 検定を使用して統計的に有意ではないことが判明し、UAP ベースの敵対的微調整の利点が強調されました。

要約(オリジナル)

Diabetic Retinopathy (DR) is a prevalent illness associated with Diabetes which, if left untreated, can result in irreversible blindness. Deep Learning based systems are gradually being introduced as automated support for clinical diagnosis. Since healthcare has always been an extremely important domain demanding error-free performance, any adversaries could pose a big threat to the applicability of such systems. In this work, we use Universal Adversarial Perturbations (UAPs) to quantify the vulnerability of Medical Deep Neural Networks (DNNs) for detecting DR. To the best of our knowledge, this is the very first attempt that works on attacking complete fine-grained classification of DR images using various UAPs. Also, as a part of this work, we use UAPs to fine-tune the trained models to defend against adversarial samples. We experiment on several models and observe that the performance of such models towards unseen adversarial attacks gets boosted on average by $3.41$ Cohen-kappa value and maximum by $31.92$ Cohen-kappa value. The performance degradation on normal data upon ensembling the fine-tuned models was found to be statistically insignificant using t-test, highlighting the benefits of UAP-based adversarial fine-tuning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google