Stakeholder Participation for Responsible AI Development: Disconnects Between Guidance and Current Practice

要約

責任あるAI（RAI）ガイダンスは、AI開発中に利害関係者の関与（SHI）をますます促進しています。
同時に、SHIはすでに商業ソフトウェア開発で一般的ですが、潜在的に異なる焦点があります。
この研究では、確立されたSHI慣行がRAIの努力に貢献できる程度と潜在的な切断 – 業界の実践をRAIの努力にさらに変える将来の介入を通知し、調整するための不可欠な洞察を明確にしています。
まず、56のRAIガイダンス文書を分析して、SHIが推奨される理由（つまり、RAIの予想される利益）を特定し、パワーの再配布、社会技術的理解の改善、リスクの予測、公衆視聴の強化などの目標を明らかにしました。
SHIが現在商業環境で現在実践されている理由と方法を理解するために、AI開業医とのオンライン調査（n = 130）および半構造化インタビュー（n = 10）を実施しました。
私たちの調査結果は、実際のSHIは主に商業的優先順位（顧客価値、コンプライアンスなど）によって推進されており、現在、より多くのRAIに染色されたSHI慣行を阻止していることが明らかになっています。
これは、確立されたSHI慣行がRAIの努力にほとんど貢献していないことを示唆しています。
この切断に対処するために、RAIの開発を実践する介入と研究の機会を提案します。

要約(オリジナル)

Responsible AI (rAI) guidance increasingly promotes stakeholder involvement (SHI) during AI development. At the same time, SHI is already common in commercial software development, but with potentially different foci. This study clarifies the extent to which established SHI practices are able to contribute to rAI efforts as well as potential disconnects — essential insights to inform and tailor future interventions that further shift industry practice towards rAI efforts. First, we analysed 56 rAI guidance documents to identify why SHI is recommended (i.e. its expected benefits for rAI) and uncovered goals such as redistributing power, improving socio-technical understandings, anticipating risks, and enhancing public oversight. To understand why and how SHI is currently practised in commercial settings, we then conducted an online survey (n=130) and semi-structured interviews (n=10) with AI practitioners. Our findings reveal that SHI in practice is primarily driven by commercial priorities (e.g. customer value, compliance) and several factors currently discourage more rAI-aligned SHI practices. This suggests that established SHI practices are largely not contributing to rAI efforts. To address this disconnect, we propose interventions and research opportunities to advance rAI development in practice.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google