Real-Time Robust Video Object Detection System Against Physical-World Adversarial Attacks

要約

DNN ベースのビデオ オブジェクト検出 (VOD) は、自動運転およびビデオ監視業界に力を与え、重要性が増し、有望な機会をもたらしています。
ただし、敵対的パッチ攻撃は、その実用性、実現可能性、および強力な攻撃効果のために、ライブ ビジョン タスクに大きな懸念をもたらします。
この作業は、リアルタイムの堅牢なビデオ オブジェクト検出のための敵対的なパッチから防御するためのソフトウェア/ハードウェア システムである Themis を提案します。
敵対的パッチは、ロバストではない予測を持つ小さな領域で非常に局所化された表面的な特徴の重要性を示すことを観察し、敵対的効果を排除するための敵対的領域検出アルゴリズムを提案します。
Themis は、冗長な計算とメモリ トラフィックを排除することにより、アルゴリズムを効率的にサポートするための体系的な設計も提案しています。
実験結果は、提案された方法論がごくわずかなハードウェア オーバーヘッドで敵対的攻撃からシステムを効果的に回復できることを示しています。

要約(オリジナル)

DNN-based video object detection (VOD) powers autonomous driving and video surveillance industries with rising importance and promising opportunities. However, adversarial patch attack yields huge concern in live vision tasks because of its practicality, feasibility, and powerful attack effectiveness. This work proposes Themis, a software/hardware system to defend against adversarial patches for real-time robust video object detection. We observe that adversarial patches exhibit extremely localized superficial feature importance in a small region with non-robust predictions, and thus propose the adversarial region detection algorithm for adversarial effect elimination. Themis also proposes a systematic design to efficiently support the algorithm by eliminating redundant computations and memory traffics. Experimental results show that the proposed methodology can effectively recover the system from the adversarial attack with negligible hardware overhead.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google