Adaptive Adversarial Training to Improve Adversarial Robustness of DNNs for Medical Image Segmentation and Detection

要約

ディープニューラルネットワーク（DNN）に基づく最近の方法は、セグメンテーション、ランドマーク検出、オブジェクト検出の3つの基本的なタスクを含む、医療画像分析の高精度に達しました。
DNNは敵対的攻撃に対して脆弱であることが知られており、DNNの敵対的ロバスト性は、訓練データに敵対的ノイズを追加することによって改善される可能性があります（つまり、敵対的訓練）。
この研究では、標準的な敵対的訓練（SAT）法には、実際の使用を制限する深刻な問題があることを示しています。DNN訓練では一定レベルのノイズが発生し、ユーザーが適切なノイズレベルを選択するのは困難です。
ノイズレベルが高いとモデルのパフォーマンスが大幅に低下する可能性があり、ノイズレベルが低いとほとんど効果がない可能性があるためです。
この問題を解決するために、個々のトレーニングサンプルごとに動的に調整されるDNNトレーニングの適応敵対ノイズを生成する新しい適応マージン敵対トレーニング（AMAT）メソッドを設計しました。
5つの公開されているデータセットを使用して、3つの基本的なタスクの最先端のDNNにAMATメソッドを適用しました。
実験結果は、ノイズの多いデータでの敵対的なロバスト性とクリーンなデータでの予測精度において、AMATメソッドがSATメソッドよりも優れていることを示しています。
ソースコードについては作者にお問い合わせください。

要約(オリジナル)

Recent methods based on Deep Neural Networks (DNNs) have reached high accuracy for medical image analysis, including the three basic tasks: segmentation, landmark detection, and object detection. It is known that DNNs are vulnerable to adversarial attacks, and the adversarial robustness of DNNs could be improved by adding adversarial noises to training data (i.e., adversarial training). In this study, we show that the standard adversarial training (SAT) method has a severe issue that limits its practical use: it generates a fixed level of noise for DNN training, and it is difficult for the user to choose an appropriate noise level, because a high noise level may lead to a large reduction in model performance, and a low noise level may have little effect. To resolve this issue, we have designed a novel adaptive-margin adversarial training (AMAT) method that generates adaptive adversarial noises for DNN training, which are dynamically tailored for each individual training sample. We have applied our AMAT method to state-of-the-art DNNs for the three basic tasks, using five publicly available datasets. The experimental results demonstrate that our AMAT method outperforms the SAT method in adversarial robustness on noisy data and prediction accuracy on clean data. Please contact the author for the source code.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google