On the Impact of Data Quality on Image Classification Fairness

要約

タイトル：画像分類フェアネスにおけるデータ品質の影響について

要約：
– アルゴリズム的な意思決定の普及に伴い、これらのシステムに対する検証が強化されています。
– 本論文は、教師あり分類のコンテキストで、トレーニングデータの品質と、そのようなデータでトレーニングされたモデルの全体的なフェアネスとの関係を探求します。
– 多くの画像分類データセット上で、アルゴリズムの範囲を測定して、キーのフェアネスメトリックを測定します。
– ラベルとトレーニングデータそれ自体の両方にノイズがあるバラエティに富んだ画像分類データセットを使用します。
– 元のデータセットにノイズを追加することで、トレーニングデータの品質と、そのトレーニングデータを使用してトレーニングされたモデルのフェアネスとの関係を探ることができます。

要約(オリジナル)

With the proliferation of algorithmic decision-making, increased scrutiny has been placed on these systems. This paper explores the relationship between the quality of the training data and the overall fairness of the models trained with such data in the context of supervised classification. We measure key fairness metrics across a range of algorithms over multiple image classification datasets that have a varying level of noise in both the labels and the training data itself. We describe noise in the labels as inaccuracies in the labelling of the data in the training set and noise in the data as distortions in the data, also in the training set. By adding noise to the original datasets, we can explore the relationship between the quality of the training data and the fairness of the output of the models trained on that data.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI