A Democratic Platform for Engaging with Disabled Community in Generative AI Development

要約

人工知能 (AI) システム、特に生成 AI テクノロジーは、私たちの社会における関連性を高めています。
ChatGPT のようなツールは、障害者コミュニティのメンバーによって使用されており、たとえば、自閉症の人が電子メールの作成を支援するために使用している場合があります。
生成 AI ツールの影響力と人気が高まっていることにより、私たちは障害者コミュニティ内でのその関連性を検討するようになりました。
設計や開発の段階では、この疎外されたグループが無視されることが多く、不正確な予測や彼らに対する不当な差別につながります。
これは、作成と実装のさまざまな段階でのデータセット、アルゴリズム、システムの偏りによって生じる可能性があります。
このワークショップ ペーパーでは、生成 AI システムを構築しながら障害者コミュニティを参加させるプラットフォームを提案します。
このプラットフォームを使用することで、私たちの目的は、障害者コミュニティが使用する際に生成 AI によって生成される出力の偏りに寄与する要因についての洞察を獲得することです。
さらに、どのアルゴリズム要因が出力の不正確性または無関係性の主な要因であるかを理解することを期待しています。
提案されたプラットフォームは、さまざまな地理的および文化的背景を持つ障害者と健常者の両方に、意思決定への民主的なアプローチで非同期かつリモートで協力することを求めています。

要約(オリジナル)

Artificial Intelligence (AI) systems, especially generative AI technologies are becoming more relevant in our society. Tools like ChatGPT are being used by members of the disabled community e.g., Autistic people may use it to help compose emails. The growing impact and popularity of generative AI tools have prompted us to examine their relevance within the disabled community. The design and development phases often neglect this marginalized group, leading to inaccurate predictions and unfair discrimination directed towards them. This could result from bias in data sets, algorithms, and systems at various phases of creation and implementation. This workshop paper proposes a platform to involve the disabled community while building generative AI systems. With this platform, our aim is to gain insight into the factors that contribute to bias in the outputs generated by generative AI when used by the disabled community. Furthermore, we expect to comprehend which algorithmic factors are the main contributors to the output’s incorrectness or irrelevancy. The proposed platform calls on both disabled and non-disabled people from various geographical and cultural backgrounds to collaborate asynchronously and remotely in a democratic approach to decision-making.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google