A Survey on Bias in Visual Datasets

要約

コンピュータービジョン（CV）は驚くべき結果を達成し、いくつかのタスクで人間を上回りました。
それにもかかわらず、CVシステムは供給されるデータに大きく依存し、そのようなデータ内のバイアスを学習して増幅する可能性があるため、適切に処理されない場合、重大な差別が生じる可能性があります。
したがって、バイアスを理解して発見するという問題が最も重要です。
しかし、視覚的なデータセットのバイアスに関する包括的な調査はありません。
したがって、この作業の目的は次のとおりです。i）ビジュアルデータセットに現れる可能性のあるバイアスを説明する。
ii）視​​覚的データセットにおけるバイアスの発見と定量化の方法に関する文献をレビューする。
iii）バイアスを意識した視覚データセットを収集するための既存の試みについて話し合う。
私たちの研究の重要な結論は、視覚データセットにおけるバイアスの発見と定量化の問題はまだ未解決であり、対処できるバイアスの方法と範囲の両方の点で改善の余地があるということです。
さらに、バイアスのないデータセットのようなものはないので、科学者や実践者はデータセットのバイアスを認識し、それらを明示的にする必要があります。
この目的のために、視覚的なデータセット収集中にさまざまなタイプのバイアスを見つけるためのチェックリストを提案します。

要約(オリジナル)

Computer Vision (CV) has achieved remarkable results, outperforming humans in several tasks. Nonetheless, it may result in significant discrimination if not handled properly as CV systems highly depend on the data they are fed with and can learn and amplify biases within such data. Thus, the problems of understanding and discovering biases are of utmost importance. Yet, there is no comprehensive survey on bias in visual datasets. Hence, this work aims to: i) describe the biases that might manifest in visual datasets; ii) review the literature on methods for bias discovery and quantification in visual datasets; iii) discuss existing attempts to collect bias-aware visual datasets. A key conclusion of our study is that the problem of bias discovery and quantification in visual datasets is still open, and there is room for improvement in terms of both methods and the range of biases that can be addressed. Moreover, there is no such thing as a bias-free dataset, so scientists and practitioners must become aware of the biases in their datasets and make them explicit. To this end, we propose a checklist to spot different types of bias during visual dataset collection.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google