Simultaneous Adversarial Attacks On Multiple Face Recognition System Components

要約

タイトル：顔認識システムの複数コンポーネントへの同時逆説的攻撃

要約：

– 本研究では、逆説的な例が顔認識システムのセキュリティに与える可能性について調査している。
– 従来の研究では、FRS（顔認識システム）の個々のコンポーネントへの逆説的リスクについて調査されてきたが、本研究では、FRSパイプラインの顔検出器と特徴抽出器の複数のコンポーネントを同時に迷わせる敵に対する初期の探索を提供している。
– FRSに対する3つの多目的攻撃を提案し、ターゲットシステムでの予備的な実験分析によって、それらの有効性を実証している。
– 我々の攻撃は、顔検出器と特徴抽出器の両方に対して最大100％の攻撃成功率を達成し、敵対的目的に応じて顔検出確率を最大50％操作することができた。
– この研究は、FRSへの新しい攻撃ベクトルを特定し、その攻撃ベクトルの知識を活用してFRSコンポーネントのトレーニング中に堅牢性を高める可能性のある方法を提案している。

要約(オリジナル)

In this work, we investigate the potential threat of adversarial examples to the security of face recognition systems. Although previous research has explored the adversarial risk to individual components of FRSs, our study presents an initial exploration of an adversary simultaneously fooling multiple components: the face detector and feature extractor in an FRS pipeline. We propose three multi-objective attacks on FRSs and demonstrate their effectiveness through a preliminary experimental analysis on a target system. Our attacks achieved up to 100% Attack Success Rates against both the face detector and feature extractor and were able to manipulate the face detection probability by up to 50% depending on the adversarial objective. This research identifies and examines novel attack vectors against FRSs and suggests possible ways to augment the robustness by leveraging the attack vector’s knowledge during training of an FRS’s components.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI