Gradient Attention Balance Network: Mitigating Face Recognition Racial Bias via Gradient Attention

要約

タイトル：Gradient Attention Balance Network（勾配注意バランスネットワーク）：勾配注意を用いて顔認識の人種バイアスを軽減する

要約：

– 近年、顔認識技術は飛躍的な進歩を遂げてきたが、高い認識精度を追求する一方で、認識システムの人種バイアスを無視していた。
– 過去の研究によれば、異なる人種に対して、顔認識ネットワークは異なる顔の領域に注意を向けており、肌が濃い人々の敏感な領域ははるかに小さいことが分かった。
– この発見に基づき、Gradient Attention Balance Network（GABN）という勾配注意に基づく新しいデバイス方法を提案している。
– 具体的には、顔認識ネットワークの勾配注意マップ（GAM）を使用して、敏感な顔の領域を追跡し、異なる人種のGAMが敵対的学習を通じて一致するようにする。
– この方法により、ネットワークが類似した顔の領域に注意を集中することで、バイアスを軽減する。
– さらに、トップNの敏感な顔の領域を消すマスクを使用して、ネットワークがより広い顔の領域に注意を割り当てるようにすることで、肌が濃い人々の敏感な領域を拡大し、GAMの肌が濃い人々と白人の間の差をさらに縮める。
– 広範な実験により、GABNは顔認識の人種バイアスを成功裏に軽減し、異なる人種の人々に対してよりバランスの取れたパフォーマンスを学習することができることが示されている。

要約(オリジナル)

Although face recognition has made impressive progress in recent years, we ignore the racial bias of the recognition system when we pursue a high level of accuracy. Previous work found that for different races, face recognition networks focus on different facial regions, and the sensitive regions of darker-skinned people are much smaller. Based on this discovery, we propose a new de-bias method based on gradient attention, called Gradient Attention Balance Network (GABN). Specifically, we use the gradient attention map (GAM) of the face recognition network to track the sensitive facial regions and make the GAMs of different races tend to be consistent through adversarial learning. This method mitigates the bias by making the network focus on similar facial regions. In addition, we also use masks to erase the Top-N sensitive facial regions, forcing the network to allocate its attention to a larger facial region. This method expands the sensitive region of darker-skinned people and further reduces the gap between GAM of darker-skinned people and GAM of Caucasians. Extensive experiments show that GABN successfully mitigates racial bias in face recognition and learns more balanced performance for people of different races.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI