Visually Adversarial Attacks and Defenses in the Physical World: A Survey

要約

ディープ ニューラル ネットワーク (DNN) は、現実世界のさまざまなシナリオに広く適用されていますが、敵対的な例に対して脆弱です。
コンピュータビジョンにおける現在の敵対的攻撃は、さまざまな攻撃形態に応じてデジタル攻撃と物理的攻撃に分類できます。
デジタル ピクセルに摂動を生成するデジタル攻撃と比較して、物理的攻撃は現実世界ではより実用的です。
物理的敵対的な例によって引き起こされる深刻なセキュリティ問題のため、過去数年間に DNN の物理的敵対的堅牢性を評価するための多くの研究が提案されてきました。
このペーパーでは、コンピュータ ビジョンにおける現在の物理的敵対的攻撃と物理的敵対的防御についての調査を要約します。
分類を確立するために、現在の物理攻撃をそれぞれ攻撃タスク、攻撃形態、攻撃方法から整理します。
したがって、読者はこのトピックについてさまざまな側面から体系的な知識を得ることができます。
物理的防御については、敵対的防御を完全にカバーするために、DNN モデルの前処理、処理中、後処理の分類を確立します。
以上の調査を踏まえて、最後にこの研究分野の課題と今後の方向性について考察します。

要約(オリジナル)

Although Deep Neural Networks (DNNs) have been widely applied in various real-world scenarios, they are vulnerable to adversarial examples. The current adversarial attacks in computer vision can be divided into digital attacks and physical attacks according to their different attack forms. Compared with digital attacks, which generate perturbations in the digital pixels, physical attacks are more practical in the real world. Owing to the serious security problem caused by physically adversarial examples, many works have been proposed to evaluate the physically adversarial robustness of DNNs in the past years. In this paper, we summarize a survey versus the current physically adversarial attacks and physically adversarial defenses in computer vision. To establish a taxonomy, we organize the current physical attacks from attack tasks, attack forms, and attack methods, respectively. Thus, readers can have a systematic knowledge of this topic from different aspects. For the physical defenses, we establish the taxonomy from pre-processing, in-processing, and post-processing for the DNN models to achieve full coverage of the adversarial defenses. Based on the above survey, we finally discuss the challenges of this research field and further outlook on the future direction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google