The art of defense: letting networks fool the attacker

要約

自律走行車にとってロバストな環境認識は重要であり、環境認識のロバスト性を向上させる方法として、敵対的防御が最も有効であり、広く研究されている。しかし、これまでの防御手法はいずれも自然な精度を低下させ、DNNの性質そのものが見過ごされてきた。そこで、本論文では、3次元点群分類器のために、DNNの性質を十分に利用した新しい敵対的防御を提案する。点群の無秩序性により、全ての点群分類器は入力点群に対して順列不変の性質を持つ。この性質に基づき、不変変換防御(IT-Defense)を設計する。その結果、難読化された勾配を考慮しても、我々のIT-Defenseは最先端の（SOTA）3D攻撃に対して回復力のある防御策であることが示された。さらに、IT-Defenseは、従来のSOTA 3D防御と比較して、クリーンな精度を損なわない。我々のコードは以下のサイトで公開されています。{footnotesize{url{https://github.com/cuge1995/IT-Defense}}} で公開しています。

要約(オリジナル)

Robust environment perception is critical for autonomous cars, and adversarial defenses are the most effective and widely studied ways to improve the robustness of environment perception. However, all of previous defense methods decrease the natural accuracy, and the nature of the DNNs itself has been overlooked. To this end, in this paper, we propose a novel adversarial defense for 3D point cloud classifier that makes full use of the nature of the DNNs. Due to the disorder of point cloud, all point cloud classifiers have the property of permutation invariant to the input point cloud. Based on this nature, we design invariant transformations defense (IT-Defense). We show that, even after accounting for obfuscated gradients, our IT-Defense is a resilient defense against state-of-the-art (SOTA) 3D attacks. Moreover, IT-Defense do not hurt clean accuracy compared to previous SOTA 3D defenses. Our code is available at: {\footnotesize{\url{https://github.com/cuge1995/IT-Defense}}}.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL