Through the Looking-Glass: Transparency Implications and Challenges in Enterprise AI Knowledge Systems

要約

知識を人々から切り離すことはできません。
AI 知識システムが仕事関連の膨大なデータをマイニングするにつれて、抽出され表面化する知識は、それを作成し使用する人々と本質的に結びついています。
これらのシステムが組織設定に組み込まれると、前面に押し出される情報と周辺部に追いやられる情報が、個人がお互いをどのように見ているか、また職場で自分自身をどのように見ているかに影響を与える可能性があります。
この論文では、鏡のような比喩を提示し、それを使用して AI 知識システムを反射し歪ませるシステムとして概念化し、透明性の要件、影響、課題についての見解を広げます。
私たちは、さまざまな見方を形成するための重要な仲介者として透明性を定式化します。これには、システムの能力、限界、動作を明らかにするシステムの内部の透視や、自分自身や組織内の他の人の貢献に対する従業員の認識を形成するシステムの透視が含まれます。
これらのシステムの社会技術的性質を認識し、AI 知識システムの価値を実現するために必要な 3 つの透明性の側面、つまりシステムの透明性、手順の透明性、結果の透明性を特定します。
私たちは、これらの形態の透明性の実現を妨げる主要な課題について議論し、より広範な社会技術的ギャップを明らかにし、将来のコンピューター支援型協同作業（CSCW）研究の方向性を強調します。

要約(オリジナル)

Knowledge can’t be disentangled from people. As AI knowledge systems mine vast volumes of work-related data, the knowledge that’s being extracted and surfaced is intrinsically linked to the people who create and use it. When these systems get embedded in organizational settings, the information that is brought to the foreground and the information that’s pushed to the periphery can influence how individuals see each other and how they see themselves at work. In this paper, we present the looking-glass metaphor and use it to conceptualize AI knowledge systems as systems that reflect and distort, expanding our view on transparency requirements, implications and challenges. We formulate transparency as a key mediator in shaping different ways of seeing, including seeing into the system, which unveils its capabilities, limitations and behavior, and seeing through the system, which shapes workers’ perceptions of their own contributions and others within the organization. Recognizing the sociotechnical nature of these systems, we identify three transparency dimensions necessary to realize the value of AI knowledge systems, namely system transparency, procedural transparency and transparency of outcomes. We discuss key challenges hindering the implementation of these forms of transparency, bringing to light the wider sociotechnical gap and highlighting directions for future Computer-supported Cooperative Work (CSCW) research.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google