Face Pasting Attack

要約

Cujo AI と Adversa AI は、MLSec 顔認識チャレンジをホストしました。
目標は、ブラック ボックスの顔認識モデルを標的型攻撃で攻撃することでした。
モデルは、ターゲット クラスの信頼度とステルス スコアを返しました。
攻撃が成功したと見なされるには、ターゲット クラスがすべてのクラスの中で最高の信頼度を持ち、ステルス性が少なくとも 0.5 である必要があります。
私たちのアプローチでは、ターゲットの顔をソース イメージに貼り付けます。
位置、スケーリング、回転、透明度の属性を利用して、3 位になりました。
私たちのアプローチでは、最終的な最高スコアを得るために攻撃ごとに約 200 のクエリが必要であり、攻撃が成功するためには最小で約 7.7 のクエリが必要でした。
コードは https://github.com/bunni90/ FacePastingAttack で入手できます。

要約(オリジナル)

Cujo AI and Adversa AI hosted the MLSec face recognition challenge. The goal was to attack a black box face recognition model with targeted attacks. The model returned the confidence of the target class and a stealthiness score. For an attack to be considered successful the target class has to have the highest confidence among all classes and the stealthiness has to be at least 0.5. In our approach we paste the face of a target into a source image. By utilizing position, scaling, rotation and transparency attributes we reached 3rd place. Our approach took approximately 200 queries per attack for the final highest score and about ~7.7 queries minimum for a successful attack. The code is available at https://github.com/bunni90/ FacePastingAttack

arxiv情報

提供元, 利用サービス

arxiv.jp, Google