AI’s Regimes of Representation: A Community-centered Study of Text-to-Image Models in South Asia

要約

この論文は、南アジアの文脈におけるテキストから画像への (T2I) モデルの文化的限界に関するコミュニティ中心の研究を紹介します。
私たちはこれらの失敗を、支配的なメディアの表現体制に関する学問を用いて理論化し、参加者による既存の社会的疎外感の報道の中にその失敗を位置づけます。
このようにして、世界的および地域的な力の不平等によって形成された南アジアの文化を見る外部者の視線を生成 AI がどのように再現できるかを示します。
コミュニティを専門家として中心に置き、T2I の制限についての視点を求めることで、私たちの研究は既存の評価枠組みに豊かなニュアンスを加え、非西洋やグローバル・サウスの環境で AI テクノロジーが失敗する可能性がある文化特有の方法についての理解を深めます。
私たちは、T2I モデルの責任ある開発のための教訓を抽出し、構造的不平等の認識を可能にする具体的な前進の道筋を推奨します。

要約(オリジナル)

This paper presents a community-centered study of cultural limitations of text-to-image (T2I) models in the South Asian context. We theorize these failures using scholarship on dominant media regimes of representations and locate them within participants’ reporting of their existing social marginalizations. We thus show how generative AI can reproduce an outsiders gaze for viewing South Asian cultures, shaped by global and regional power inequities. By centering communities as experts and soliciting their perspectives on T2I limitations, our study adds rich nuance into existing evaluative frameworks and deepens our understanding of the culturally-specific ways AI technologies can fail in non-Western and Global South settings. We distill lessons for responsible development of T2I models, recommending concrete pathways forward that can allow for recognition of structural inequalities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google