Un-Straightening Generative AI: How Queer Artists Surface and Challenge the Normativity of Generative AI Models

要約

クィアの人々は、生成AIの研究において、偏見や危害、差別の対象としてしばしば議論される。しかし、クィアの人々がジェネレーティブAIと関わる具体的な方法、ひいてはクィアの人々を支援する可能性のある使用方法については、まだ調査されていない。私たちは13人のクィア・アーティストとワークショップ研究を行い、その中で参加者にGPT-4とDALL-E 3にアクセスしてもらい、グループでのセンスメイキング活動を促進した。その結果、参加者たちは、超ポジティブや反セクシュアリティといった、彼らのデザインに埋め込まれた様々な規範的価値観のために、これらのモデルを使用するのに苦労していることがわかった。私たちは、参加者がこれらのモデルの限界を克服するために開発した様々な戦略について述べ、それにもかかわらず、参加者がこれらの高度に規範的なテクノロジーにどのような価値を見出したかについて述べる。クィア・フェミニズムの理論を引きながら、「最先端の」モデルの概念化に対する示唆を議論し、FAccTの研究者がどのようにクィアな代替案を支援するかを考察する。

要約(オリジナル)

Queer people are often discussed as targets of bias, harm, or discrimination in research on generative AI. However, the specific ways that queer people engage with generative AI, and thus possible uses that support queer people, have yet to be explored. We conducted a workshop study with 13 queer artists, during which we gave participants access to GPT-4 and DALL-E 3 and facilitated group sensemaking activities. We found our participants struggled to use these models due to various normative values embedded in their designs, such as hyper-positivity and anti-sexuality. We describe various strategies our participants developed to overcome these models’ limitations and how, nevertheless, our participants found value in these highly-normative technologies. Drawing on queer feminist theory, we discuss implications for the conceptualization of ‘state-of-the-art’ models and consider how FAccT researchers might support queer alternatives.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL