Physical Adversarial Attacks for Surveillance: A Survey

要約

最新の自動監視技術はディープラーニング手法に大きく依存しています。
優れたパフォーマンスにもかかわらず、これらの学習システムは本質的に敵対的攻撃、つまりモデルを誤解させたり騙したりして間違った予測をさせるように設計された悪意を持って作成された入力に対して脆弱です。
敵対者は、監視システムのさまざまな形式の検出、追跡、認識を潜在的に回避するために、敵対者用の T シャツ、メガネ、帽子を着用したり、特定の行動によって外見を物理的に変えることができます。
安全な財産や資産への不正アクセスを取得します。
これは、現代の監視システムのセキュリティと安全性に重大な脅威をもたらします。
このペーパーでは、監視アプリケーション向けの物理的敵対的攻撃の学習と設計における最近の試みと結果をレビューします。
特に、物理的敵対的攻撃を分析するためのフレームワークを提案し、このフレームワークの下で、検出、識別、追跡、行動認識という 4 つの主要な監視タスクに関する物理的敵対的攻撃の包括的な調査を提供します。
さらに、物理的な敵対的な攻撃に対する防御戦略と防御の強さを評価する方法を検討および分析します。
この論文の洞察は、物理的な敵対的攻撃に対する監視システム内の回復力を構築するための重要なステップを示しています。

要約(オリジナル)

Modern automated surveillance techniques are heavily reliant on deep learning methods. Despite the superior performance, these learning systems are inherently vulnerable to adversarial attacks – maliciously crafted inputs that are designed to mislead, or trick, models into making incorrect predictions. An adversary can physically change their appearance by wearing adversarial t-shirts, glasses, or hats or by specific behavior, to potentially avoid various forms of detection, tracking and recognition of surveillance systems; and obtain unauthorized access to secure properties and assets. This poses a severe threat to the security and safety of modern surveillance systems. This paper reviews recent attempts and findings in learning and designing physical adversarial attacks for surveillance applications. In particular, we propose a framework to analyze physical adversarial attacks and provide a comprehensive survey of physical adversarial attacks on four key surveillance tasks: detection, identification, tracking, and action recognition under this framework. Furthermore, we review and analyze strategies to defend against the physical adversarial attacks and the methods for evaluating the strengths of the defense. The insights in this paper present an important step in building resilience within surveillance systems to physical adversarial attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google