Public Procurement for Responsible AI? Understanding U.S. Cities’ Practices, Challenges, and Needs

要約

政府が採用する AI ツールのほとんどは社内で開発されたものではなく、公共調達と呼ばれるプロセスでサードパーティ ベンダーから取得されます。
最近、学者や規制に関する提案は、責任ある AI ガバナンスの実践を奨励するための介入の場として調達に注目していますが、AI 調達を担当する市職員の実践やニーズについてはほとんど知られていません。
この論文では、米国 7 都市の市職員 18 名に対する半構造化インタビューから得られた結果を紹介します。
都市が取得する AI は従来の公共調達プロセスを経ていないことが多く、監視とガバナンスに課題をもたらしていることがわかりました。
私たちは、市の職員が同僚、AI ベンダー、一般の人々とやり取りする際に直面する、責任ある AI の調達を活用する上で 5 つの主要な課題を特定しました。
最後に、政府、研究者、政策立案者に対する推奨事項と影響について議論します。

要約(オリジナル)

Most AI tools adopted by governments are not developed internally, but instead are acquired from third-party vendors in a process called public procurement. While scholars and regulatory proposals have recently turned towards procurement as a site of intervention to encourage responsible AI governance practices, little is known about the practices and needs of city employees in charge of AI procurement. In this paper, we present findings from semi-structured interviews with 18 city employees across 7 US cities. We find that AI acquired by cities often does not go through a conventional public procurement process, posing challenges to oversight and governance. We identify five key types of challenges to leveraging procurement for responsible AI that city employees face when interacting with colleagues, AI vendors, and members of the public. We conclude by discussing recommendations and implications for governments, researchers, and policymakers.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google