A multidomain relational framework to guide institutional AI research and adoption

要約

機関や行政における人工知能 (AI) の採用を導くための新しい指標、技術基準、およびガバナンス メカニズムの要求は、今や一般的になっています。
しかし、AI を採用することの意味を理解することを目的としたほとんどの研究と政策の取り組みは、ほんの一握りのアイデアのみを優先する傾向があります。
それらは、関連する可能性のあるさまざまな視点やトピックのすべてを完全に説明しているわけではありません。
この見解書では、この省略は、部分的には、社会技術的言説における関係問題と呼ばれるものに起因すると主張します。根本的な存在論的問題は、意味のあいまいさ、概念と異なる概念間の明確な関係の欠如を含め、まだ解決されていません。
標準的な用語。
これは、制度的 AI システムを評価するためのさまざまな推論モードの持続性と、機械学習、人的要因、社会科学、政策など、それらを研究する分野における概念的孤立の蔓延に寄与しています。
この批判を発展させた後、関連する概念と関連する方法をグループ化するための3つの水平ドメインで構成される、分野全体で用語を整理するための概念フレームワークの形で、単純なポリシーおよび研究設計ツールを提案することにより、前進する方法を提供します。
規範的な。
最初に、このフレームワークを、AIES と FACCT という 2 つの主要な学術機関での最近の社会技術論議を背景に位置づけてから、これらの各ドメインで関連する概念を運用化することによって、適切な指標、基準、およびメカニズムの開発がどのように支援されるかを説明します。
最後に、制度的 AI の研究と採用に対するこのリレーショナル アプローチを開発するための未解決の問題について概説します。

要約(オリジナル)

Calls for new metrics, technical standards and governance mechanisms to guide the adoption of Artificial Intelligence (AI) in institutions and public administration are now commonplace. Yet, most research and policy efforts aimed at understanding the implications of adopting AI tend to prioritize only a handful of ideas; they do not fully account for all the different perspectives and topics that are potentially relevant. In this position paper, we contend that this omission stems, in part, from what we call the relational problem in socio-technical discourse: fundamental ontological issues have not yet been settled-including semantic ambiguity, a lack of clear relations between concepts and differing standard terminologies. This contributes to the persistence of disparate modes of reasoning to assess institutional AI systems, and the prevalence of conceptual isolation in the fields that study them including ML, human factors, social science and policy. After developing this critique, we offer a way forward by proposing a simple policy and research design tool in the form of a conceptual framework to organize terms across fields-consisting of three horizontal domains for grouping relevant concepts and related methods: Operational, epistemic, and normative. We first situate this framework against the backdrop of recent socio-technical discourse at two premier academic venues, AIES and FAccT, before illustrating how developing suitable metrics, standards, and mechanisms can be aided by operationalizing relevant concepts in each of these domains. Finally, we outline outstanding questions for developing this relational approach to institutional AI research and adoption.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google