Detection Defenses: An Empty Promise against Adversarial Patch Attacks on Optical Flow

要約

敵対的パッチは、シーンの任意の場所に配置されると、オプティカル フロー予測の信頼性を損ないます。
したがって、それらは現実世界の動き検出とその下流のアプリケーションに対して現実的な脅威となります。
潜在的な救済策は、敵対的なパッチを検出して除去する防御戦略ですが、根本的な動き予測に対するその影響は調査されていません。
このペーパーでは、最先端のオプティカル フロー手法の幅広い選択肢に対して、現在利用可能な検出および削除防御 ILP および LGS を徹底的に検証し、最終的なフロー予測の品質と堅牢性に対するそれらの副作用を明らかにします。
。
特に、現在の防御が防御メカニズムを考慮した攻撃に耐えられるかどうかを調査するために、防御を意識した攻撃を実装します。
私たちの実験では、2 つの驚くべき結果が得られました。検出と削除による防御は、良性のシーンでオプティカル フローの品質を低下させるだけでなく、FlowNetC を除くすべてのテスト済みオプティカル フロー メソッドのパッチ攻撃に対する堅牢性も損ないます。
現在採用されている検出と削除の防御は、オプティカル フローに対して約束された敵対的堅牢性を提供できないため、誤ったセキュリティ感を引き起こします。
コードは https://github.com/cv-stuttgart/Detection Defenses で入手できます。

要約(オリジナル)

Adversarial patches undermine the reliability of optical flow predictions when placed in arbitrary scene locations. Therefore, they pose a realistic threat to real-world motion detection and its downstream applications. Potential remedies are defense strategies that detect and remove adversarial patches, but their influence on the underlying motion prediction has not been investigated. In this paper, we thoroughly examine the currently available detect-and-remove defenses ILP and LGS for a wide selection of state-of-the-art optical flow methods, and illuminate their side effects on the quality and robustness of the final flow predictions. In particular, we implement defense-aware attacks to investigate whether current defenses are able to withstand attacks that take the defense mechanism into account. Our experiments yield two surprising results: Detect-and-remove defenses do not only lower the optical flow quality on benign scenes, in doing so, they also harm the robustness under patch attacks for all tested optical flow methods except FlowNetC. As currently employed detect-and-remove defenses fail to deliver the promised adversarial robustness for optical flow, they evoke a false sense of security. The code is available at https://github.com/cv-stuttgart/DetectionDefenses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google