Disability Representations: Finding Biases in Automatic Image Generation

要約

画像生成技術の最近の進歩により、AI 生成画像への広範なアクセスが可能になり、広告、エンターテイメント、そして徐々にあらゆる形式のビジュアル コンテンツで顕著に使用されています。
しかし、これらのテクノロジーは社会的な偏見を永続させることがよくあります。
この研究では、一般的な画像生成モデルにおける障害者 (PWD) に対する表現バイアスを調査します。
いくつかの一般的なテキストから画像へのモデルを含む包括的な実験を通じて、障害の描写を分析しました。
結果は、重大な偏りを示しており、生成された画像のほとんどは、障害者を年老いて悲しんでいて、主に手動車椅子を使用しているように描写しています。
これらの発見は、生成された画像における障害者の多様かつ正確な表現を保証する、より包括的な AI 開発の緊急の必要性を浮き彫りにしています。
この研究は、公平で現実的な表現を促進するために、AI モデルのバイアスに対処し、軽減することの重要性を強調しています。

要約(オリジナル)

Recent advancements in image generation technology have enabled widespread access to AI-generated imagery, prominently used in advertising, entertainment, and progressively in every form of visual content. However, these technologies often perpetuate societal biases. This study investigates the representation biases in popular image generation models towards people with disabilities (PWD). Through a comprehensive experiment involving several popular text-to-image models, we analyzed the depiction of disability. The results indicate a significant bias, with most generated images portraying disabled individuals as old, sad, and predominantly using manual wheelchairs. These findings highlight the urgent need for more inclusive AI development, ensuring diverse and accurate representation of PWD in generated images. This research underscores the importance of addressing and mitigating biases in AI models to foster equitable and realistic representations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google