Data Ethics Emergency Drill: A Toolbox for Discussing Responsible AI for Industry Teams

要約

研究者らはデータサイエンティストなどのテクノロジー実務者に対し、アルゴリズムによる意思決定の影響と倫理的影響を考慮するよう促している。
ただし、プログラミング、統計、データ管理とは異なり、標準的なデータ サイエンス トレーニングに倫理的影響についての議論が含まれることはほとんどありません。
このギャップに対処し始めるために、私たちはデータ サイエンス チームが自分たちの仕事の倫理的な意味について議論し、熟考するのに役立つデータ倫理緊急訓練 (DEED) と呼ばれるツールボックスを設計およびテストしました。
DEED は、チームの特定の職場や用途に文脈的に位置する架空の倫理的緊急事態シナリオのロールプレイです。
このペーパーでは、DEED ツールボックスの概要を説明し、その設計を反復的に形成する 2 つの異なるデータ サイエンス チームと実施された 3 つの研究について説明します。
私たちの調査結果は、実践者がロールプレイから学んだ教訓を現実の状況に適用できること、および DEED が倫理と価値観に関する会話をどのように切り開いたかを示しています。

要約(オリジナル)

Researchers urge technology practitioners such as data scientists to consider the impacts and ethical implications of algorithmic decisions. However, unlike programming, statistics, and data management, discussion of ethical implications is rarely included in standard data science training. To begin to address this gap, we designed and tested a toolbox called the data ethics emergency drill (DEED) to help data science teams discuss and reflect on the ethical implications of their work. The DEED is a roleplay of a fictional ethical emergency scenario that is contextually situated in the team’s specific workplace and applications. This paper outlines the DEED toolbox and describes three studies carried out with two different data science teams that iteratively shaped its design. Our findings show that practitioners can apply lessons learnt from the roleplay to real-life situations, and how the DEED opened up conversations around ethics and values.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google