Adversarial Mask: Real-World Universal Adversarial Attack on Face Recognition Model

要約

ディープラーニングに基づく顔認識（FR）モデルは、COVID-19パンデミック時に医療用防護マスクの着用が一般化した際にも、ここ数年で最先端の性能を発揮している。これらのモデルの卓越した性能を受けて、機械学習研究コミュニティは、その頑健性に挑戦することに関心を高めています。当初、研究者たちはデジタル領域での敵対的な攻撃を提示し、後にその攻撃は物理領域へと移された。しかし、物理領域での攻撃は多くの場合目立つため、実環境（例えば、空港など）では疑惑を持たれる可能性がある。本論文では、最新のFRモデルに対する物理的な普遍的敵対摂動（UAP）であるAdversarial Maskを提案し、慎重に細工したパターンという形でフェイスマスクに適用する。実験では、様々なFRモデルアーキテクチャとデータセットに対する本マスクの適用可能性を検証した。さらに、布製のフェイスマスクに敵対的パターンを印刷し、実世界の実験（CCTVユースケース）において敵対的マスクの有効性を検証しました。この実験では、マスクを装着した参加者の3.34%しか識別できませんでした（他の評価済みマスクでは最低83.34%）が、本システムでは識別することができました。実験のデモは、https://youtu.be/_TXkDO5z11w でご覧いただけます。

要約(オリジナル)

Deep learning-based facial recognition (FR) models have demonstrated state-of-the-art performance in the past few years, even when wearing protective medical face masks became commonplace during the COVID-19 pandemic. Given the outstanding performance of these models, the machine learning research community has shown increasing interest in challenging their robustness. Initially, researchers presented adversarial attacks in the digital domain, and later the attacks were transferred to the physical domain. However, in many cases, attacks in the physical domain are conspicuous, and thus may raise suspicion in real-world environments (e.g., airports). In this paper, we propose Adversarial Mask, a physical universal adversarial perturbation (UAP) against state-of-the-art FR models that is applied on face masks in the form of a carefully crafted pattern. In our experiments, we examined the transferability of our adversarial mask to a wide range of FR model architectures and datasets. In addition, we validated our adversarial mask’s effectiveness in real-world experiments (CCTV use case) by printing the adversarial pattern on a fabric face mask. In these experiments, the FR system was only able to identify 3.34% of the participants wearing the mask (compared to a minimum of 83.34% with other evaluated masks). A demo of our experiments can be found at: https://youtu.be/_TXkDO5z11w.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL