Walking the Walk of AI Ethics: Organizational Challenges and the Individualization of Risk among Ethics Entrepreneurs

要約

テクノロジーに対する国民の信頼が低下する中、コンピューティング倫理が注目を集めており、批評家らは企業倫理の洗い出しに疑問を呈している。
しかし、テクノロジー企業における AI の倫理的価値観の実際の導入を調査した研究はほとんどありません。
AI 倫理を製品開発に統合する任務を負ったテクノロジー労働者の定性分析に基づいて、労働者がポリシー、実践、成果が切り離された環境を経験していることがわかりました。
私たちは、AI 倫理従事者を、組織内で新しい倫理関連の慣行を制度化することに取り組む倫理起業家として分析します。
私たちは、倫理起業家が仕事をする上で 3 つの大きな障壁に直面していることを示します。
まず、ソフトウェア製品の発売を中心とした環境で倫理を優先させるのに苦労しています。
第二に、企業の目標が指標によって動機付けられている状況では、倫理を定量化するのは困難です。
第三に、チームの頻繁な再編成により、知識にアクセスしたり、仕事の中心となる人間関係を維持したりすることが困難になります。
その結果、倫理問題を提起する際、特に疎外された背景を持つ個人は、大きな個人的リスクを負うことになります。
これらの調査結果は、テクノロジー企業における組織変革の複雑な力学に光を当てています。

要約(オリジナル)

Amidst decline in public trust in technology, computing ethics have taken center stage, and critics have raised questions about corporate ethics washing. Yet few studies examine the actual implementation of AI ethics values in technology companies. Based on a qualitative analysis of technology workers tasked with integrating AI ethics into product development, we find that workers experience an environment where policies, practices, and outcomes are decoupled. We analyze AI ethics workers as ethics entrepreneurs who work to institutionalize new ethics-related practices within organizations. We show that ethics entrepreneurs face three major barriers to their work. First, they struggle to have ethics prioritized in an environment centered around software product launches. Second, ethics are difficult to quantify in a context where company goals are incentivized by metrics. Third, the frequent reorganization of teams makes it difficult to access knowledge and maintain relationships central to their work. Consequently, individuals take on great personal risk when raising ethics issues, especially when they come from marginalized backgrounds. These findings shed light on complex dynamics of institutional change at technology companies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google