Going public: the role of public participation approaches in commercial AI labs

要約

近年、責任ある AI の実践に関する議論において、AI システムの設計と開発に一般の人々を参加させることを目的とした「参加型 AI」アプローチへの支持が高まっています。
これまでの研究では、AI 開発プロセスで参加型アプローチを使用する方法について、標準化された方法やアプローチが不足していることが判明しています。
現時点では、主要な AI 開発を推進するサイト、つまり商用 AI ラボに対する態度や参加アプローチに関する証拠が不足しています。
この論文では、業界の実務者や対象分野の専門家との 12 件の半構造化インタビューを通じて、商業 AI ラボが参加型 AI アプローチをどのように理解しているか、また AI システムや研究の開発においてこれらの実践を実装する際に直面した障害について探ります。
インタビュー対象者は参加を「社会に有益な」AI システムの実現に役立つ規範的なプロジェクトと見なしている一方で、実践者は参加型アプローチを企業に組み込む際に多くの障壁に直面していることがわかりました。
搾取に対する懸念があるため、その導入について透明性を保つインセンティブがなく、明確な背景の欠如によって状況は複雑になります。
これらの障壁により、参加者に意思決定権が与えられず、AI ラボへの継続的な影響がほとんどない、参加への段階的なアプローチが生じます。
この論文の貢献は、商業 AI ラボへの公衆参加の実装に関する新しい実証研究を提供し、この文脈で参加型アプローチを使用する際の現在の課題に光を当てることです。

要約(オリジナル)

In recent years, discussions of responsible AI practices have seen growing support for ‘participatory AI’ approaches, intended to involve members of the public in the design and development of AI systems. Prior research has identified a lack of standardised methods or approaches for how to use participatory approaches in the AI development process. At present, there is a dearth of evidence on attitudes to and approaches for participation in the sites driving major AI developments: commercial AI labs. Through 12 semi-structured interviews with industry practitioners and subject-matter experts, this paper explores how commercial AI labs understand participatory AI approaches and the obstacles they have faced implementing these practices in the development of AI systems and research. We find that while interviewees view participation as a normative project that helps achieve ‘societally beneficial’ AI systems, practitioners face numerous barriers to embedding participatory approaches in their companies: participation is expensive and resource intensive, it is ‘atomised’ within companies, there is concern about exploitation, there is no incentive to be transparent about its adoption, and it is complicated by a lack of clear context. These barriers result in a piecemeal approach to participation that confers no decision-making power to participants and has little ongoing impact for AI labs. This papers contribution is to provide novel empirical research on the implementation of public participation in commercial AI labs, and shed light on the current challenges of using participatory approaches in this context.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google