Evaluating the Adversarial Robustness of Adaptive Test-time Defenses

要約

テスト時に最適化する適応防御は、敵の堅牢性を向上させることを約束します。
このような適応型テスト時の防御を分類し、それらの潜在的な利点と欠点を説明し、画像分類のための最新の適応型防御の代表的な種類を評価します。
残念ながら、慎重なケーススタディの評価を受けた場合、静的防御を大幅に改善するものはありません。
基礎となる静的モデルを弱めると同時に、推論の計算を増やすものもあります。
これらの結果は期待外れですが、適応型テスト時間の防御は有望な研究手段であると私たちは信じており、そのため、徹底的な評価のための推奨事項を提供します。
Carliniらのチェックリストを拡張します。
（2019）適応防御に固有の具体的なステップを提供することによって。

要約(オリジナル)

Adaptive defenses, which optimize at test time, promise to improve adversarial robustness. We categorize such adaptive test-time defenses, explain their potential benefits and drawbacks, and evaluate a representative variety of the latest adaptive defenses for image classification. Unfortunately, none significantly improve upon static defenses when subjected to our careful case study evaluation. Some even weaken the underlying static model while simultaneously increasing inference computation. While these results are disappointing, we still believe that adaptive test-time defenses are a promising avenue of research and, as such, we provide recommendations for their thorough evaluation. We extend the checklist of Carlini et al. (2019) by providing concrete steps specific to adaptive defenses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google