Carpet-bombing patch: attacking a deep network without usual requirements

要約

ディープ ネットワークは回避攻撃に対する脆弱性を示していますが、そのような攻撃には通常、非現実的な要件があります。
最近の文献では、これらの要件の一部を削除する、または削除しない可能性について議論されています。
この論文は、ほとんど要件のないカーペット爆撃パッチ攻撃を導入することにより、この文献に貢献しています。
特徴表現を標的とするこのパッチ攻撃では、ネットワーク タスクを知る必要はありません。
この攻撃は、基礎となるタスクがそれぞれ分類、検出、またはセマンティック セグメンテーションに関係していることを認識せずに、Imagenet、Pascal Voc の mAP、および Cityscapes の IoU の精度を低下させます。
この攻撃によって引き起こされる潜在的な安全性の問題を超えて、カーペット爆撃攻撃の影響は、深いネットワーク層の動的ないくつかの興味深い特性を浮き彫りにします。

要約(オリジナル)

Although deep networks have shown vulnerability to evasion attacks, such attacks have usually unrealistic requirements. Recent literature discussed the possibility to remove or not some of these requirements. This paper contributes to this literature by introducing a carpet-bombing patch attack which has almost no requirement. Targeting the feature representations, this patch attack does not require knowing the network task. This attack decreases accuracy on Imagenet, mAP on Pascal Voc, and IoU on Cityscapes without being aware that the underlying tasks involved classification, detection or semantic segmentation, respectively. Beyond the potential safety issues raised by this attack, the impact of the carpet-bombing attack highlights some interesting property of deep network layer dynamic.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google