‘I’m Not Confident in Debiasing AI Systems Since I Know Too Little’: Teaching AI Creators About Gender Bias Through Hands-on Tutorials

要約

AI システムではジェンダー バイアスが蔓延しており、女性に対する悪いユーザー エクスペリエンス、不公平、精神的被害を引き起こしています。
学校のカリキュラムではこのテーマについて AI クリエイターを教育できず、AI におけるジェンダー バイアスを緩和する準備が整っていないままになっています。
このペーパーでは、AI におけるジェンダー バイアスに対する AI 作成者の認識を高め、ジェンダー バイアスの原因とバイアスを緩和する手法についての知識を高めるための実践的なチュートリアルを設計しました。
チュートリアルは、AI 研究者、AI 業界の実務者 (開発者やプロダクト マネージャーなど)、AI を学んだ学生を含む 18 人の AI クリエイターによって評価されました。
彼らの意識と知識の向上は、私たちのチュートリアルの有効性を実証しており、CS/AI コースにおける不十分な AI ジェンダーバイアス教育を補完する可能性があります。
調査結果に基づいて、将来の研究、教育、設計の取り組みを導くための設計上の含意とルーブリックを総合します。

要約(オリジナル)

Gender bias is rampant in AI systems, causing bad user experience, injustices, and mental harm to women. School curricula fail to educate AI creators on this topic, leaving them unprepared to mitigate gender bias in AI. In this paper, we designed hands-on tutorials to raise AI creators’ awareness of gender bias in AI and enhance their knowledge of sources of gender bias and debiasing techniques. The tutorials were evaluated with 18 AI creators, including AI researchers, AI industrial practitioners (i.e., developers and product managers), and students who had learned AI. Their improved awareness and knowledge demonstrated the effectiveness of our tutorials, which have the potential to complement the insufficient AI gender bias education in CS/AI courses. Based on the findings, we synthesize design implications and a rubric to guide future research, education, and design efforts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google