Provocation: Who benefits from ‘inclusion’ in Generative AI?

要約

正確で代表的な生成 AI システムに対する需要は、参加型の評価構造に対する需要が高まっていることを意味します。
これらの参加構造は、非支配的な価値観、知識、物質文化も AI モデルとそれが生成するメディアに反映されるようにするために最も重要ですが、AI の開発と評価におけるコミュニティ参加の支配的な構造は、その利点について十分に明確ではないと主張します。
社会的に疎外されたグループのメンバーが参加の結果として経験する可能性のある危害。
AI 開発者によるこれらの利点についての明確な質問がなければ、コミュニティとして、私たちは同様に必要とされる巨大な体系的変化にも気付かないままになる可能性があります。
この挑発を裏付けるために、AI 研究者としての私たち自身の集合的な経験から開発された推測的なケーススタディを紹介します。
私たちはこの推測的な文脈を使用して、疎外されたコミュニティへの提案された利益を実現し、害を軽減するために克服する必要がある障壁を箇条書きにします。

要約(オリジナル)

The demands for accurate and representative generative AI systems means there is an increased demand on participatory evaluation structures. While these participatory structures are paramount to to ensure non-dominant values, knowledge and material culture are also reflected in AI models and the media they generate, we argue that dominant structures of community participation in AI development and evaluation are not explicit enough about the benefits and harms that members of socially marginalized groups may experience as a result of their participation. Without explicit interrogation of these benefits by AI developers, as a community we may remain blind to the immensity of systemic change that is needed as well. To support this provocation, we present a speculative case study, developed from our own collective experiences as AI researchers. We use this speculative context to itemize the barriers that need to be overcome in order for the proposed benefits to marginalized communities to be realized, and harms mitigated.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google