Do Generative AI Models Output Harm while Representing Non-Western Cultures: Evidence from A Community-Centered Approach

要約

私たちの研究では、インドの文脈に焦点を当てて、生成人工知能 (GAI) モデル、特にテキスト画像ジェネレーター (T2I) が非西洋文化の表現に及ぼす影響を調査しています。
コンテンツ作成における T2I の変革の可能性にもかかわらず、不実表示や疎外につながる可能性のあるバイアスに関する懸念が生じています。
コミュニティ中心のアプローチとインドの多様なサブカルチャーの 5 つのフォーカス グループの根拠のある理論分析を通じて、英語プロンプトへの T2I 出力がインド文化とそのサブカルチャーをどのように描写しているかを調査し、異国情緒や文化の流用などの新たな表現上の害悪を明らかにします。
これらの調査結果は、包括的で文化的に配慮した T2I システムの緊急の必要性を浮き彫りにしています。
私たちはこれらの課題に対処し、世界的により公平で代表的な GAI 技術の開発に貢献することを目的として、社会技術的な観点に基づいた設計ガイドラインを提案します。
私たちの研究はまた、これらのモデルの社会技術力学を理解するためにコミュニティ中心のアプローチを採用し、この分野での既存の研究を補完しながら、これらのモデルが地球規模で展開されるときに生じる可能性のある潜在的なマイナスの影響と害を特定して対処する必要性を強調しています。
。

要約(オリジナル)

Our research investigates the impact of Generative Artificial Intelligence (GAI) models, specifically text-to-image generators (T2Is), on the representation of non-Western cultures, with a focus on Indian contexts. Despite the transformative potential of T2Is in content creation, concerns have arisen regarding biases that may lead to misrepresentations and marginalizations. Through a community-centered approach and grounded theory analysis of 5 focus groups from diverse Indian subcultures, we explore how T2I outputs to English prompts depict Indian culture and its subcultures, uncovering novel representational harms such as exoticism and cultural misappropriation. These findings highlight the urgent need for inclusive and culturally sensitive T2I systems. We propose design guidelines informed by a sociotechnical perspective, aiming to address these issues and contribute to the development of more equitable and representative GAI technologies globally. Our work also underscores the necessity of adopting a community-centered approach to comprehend the sociotechnical dynamics of these models, complementing existing work in this space while identifying and addressing the potential negative repercussions and harms that may arise when these models are deployed on a global scale.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google