Fairness and Bias Mitigation in Computer Vision: A Survey

要約

コンピュータ ビジョン システムは、この分野における複数の進歩により、過去 20 年間に急速な進歩を遂げてきました。
これらのシステムは、一か八かの現実世界のアプリケーションに導入されることが増えているため、過去のデータや人間が厳選したデータの差別的傾向が伝播したり増幅したり、偽りの相関関係からバイアスを誤って学習したりしないようにすることが緊急に必要となっています。
このペーパーでは、コンピュータ ビジョンの文脈における進行中の傾向と成功を要約し、明らかにする公平性に関する包括的な調査を紹介します。
私たちが議論するトピックには、1) より広範な公平な機械学習の文献と隣接する分野から引き出された公平性の起源と技術的定義が含まれます。
2) コンピュータ ビジョン システムのバイアスを発見して分析しようとした研究。
3) 近年、コンピュータビジョンシステムにおけるバイアスを軽減するために提案された方法の概要。
4) バイアスを測定、分析、軽減し、公平性を高めるために研究者によって作成されたリソースとデータセットの包括的な概要。
5) この分野の成功、マルチモーダル基盤と生成モデルの文脈における継続的な傾向、およびまだ対処する必要があるギャップについての議論。
提示された特性評価は、研究者がコンピュータ ビジョンと分野の現状におけるバイアスを特定して軽減することの重要性を理解し、将来の研究の潜在的な方向性を特定するのに役立ちます。

要約(オリジナル)

Computer vision systems have witnessed rapid progress over the past two decades due to multiple advances in the field. As these systems are increasingly being deployed in high-stakes real-world applications, there is a dire need to ensure that they do not propagate or amplify any discriminatory tendencies in historical or human-curated data or inadvertently learn biases from spurious correlations. This paper presents a comprehensive survey on fairness that summarizes and sheds light on ongoing trends and successes in the context of computer vision. The topics we discuss include 1) The origin and technical definitions of fairness drawn from the wider fair machine learning literature and adjacent disciplines. 2) Work that sought to discover and analyze biases in computer vision systems. 3) A summary of methods proposed to mitigate bias in computer vision systems in recent years. 4) A comprehensive summary of resources and datasets produced by researchers to measure, analyze, and mitigate bias and enhance fairness. 5) Discussion of the field’s success, continuing trends in the context of multimodal foundation and generative models, and gaps that still need to be addressed. The presented characterization should help researchers understand the importance of identifying and mitigating bias in computer vision and the state of the field and identify potential directions for future research.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google