Face Encryption via Frequency-Restricted Identity-Agnostic Attacks

要約

何十億人もの人々が毎日ソーシャル メディアで日常のライブ画像を共有しています。
しかし、悪意のあるコレクターは、深層顔認識システムを使用して、これらの画像から生体情報 (顔など) を簡単に盗みます。
顔情報の漏洩を減らすために、知覚できない摂動を導入することによる敵対的攻撃を使用して暗号化された顔写真を生成する研究がいくつか行われています。
ただし、既存の研究では、より強力なブラックボックス シナリオの実現可能性とより自然な外観が必要であり、プライバシー保護の実現可能性に課題があります。
これらの問題に対処するために、私たちは、個人情報にアクセスせずに、不正な顔認識から顔画像を暗号化する、周波数制限付き個人情報非依存 (FRIA) フレームワークを提案します。
弱いブラックボックス シナリオの実現可能性に関しては、複数の顔認識モデルの平均的な特徴の表現が類似していることがわかりました。したがって、生成をガイドするターゲットとしてインターネットからクロールされたデータセットを介して平均的な特徴を利用することを提案します。
また、未知の顔認識システムのアイデンティティにも依存しません。
自然界では、低周波摂動は人間の視覚系によってより視覚的に知覚されます。
これにヒントを得て、離散コサイン変換によって低周波の顔領域の摂動を制限し、視覚的な自然さを保証します。
いくつかの顔認識モデルに関する広範な実験により、当社の FRIA は、96% という高いブラックボックス攻撃成功率を達成しながら、より自然な暗号化された顔を生成する点で他の最先端の方法よりも優れていることが実証されました。
さらに、実際のブラックボックス商用 API を使用して FRIA の有効性を検証し、実際の FRIA の可能性を明らかにします。
私たちのコードは https://github.com/XinDong10/FRIA にあります。

要約(オリジナル)

Billions of people are sharing their daily live images on social media everyday. However, malicious collectors use deep face recognition systems to easily steal their biometric information (e.g., faces) from these images. Some studies are being conducted to generate encrypted face photos using adversarial attacks by introducing imperceptible perturbations to reduce face information leakage. However, existing studies need stronger black-box scenario feasibility and more natural visual appearances, which challenge the feasibility of privacy protection. To address these problems, we propose a frequency-restricted identity-agnostic (FRIA) framework to encrypt face images from unauthorized face recognition without access to personal information. As for the weak black-box scenario feasibility, we obverse that representations of the average feature in multiple face recognition models are similar, thus we propose to utilize the average feature via the crawled dataset from the Internet as the target to guide the generation, which is also agnostic to identities of unknown face recognition systems; in nature, the low-frequency perturbations are more visually perceptible by the human vision system. Inspired by this, we restrict the perturbation in the low-frequency facial regions by discrete cosine transform to achieve the visual naturalness guarantee. Extensive experiments on several face recognition models demonstrate that our FRIA outperforms other state-of-the-art methods in generating more natural encrypted faces while attaining high black-box attack success rates of 96%. In addition, we validate the efficacy of FRIA using real-world black-box commercial API, which reveals the potential of FRIA in practice. Our codes can be found in https://github.com/XinDong10/FRIA.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google