Do We Need Explainable AI in Companies? Investigation of Challenges, Expectations, and Chances from Employees’ Perspective

要約

企業が人工知能（AI）を導入することは、ビジネスの成功に不可欠な要素になりつつあります。しかし、AIの活用には、AIシステムの透明性や分かりやすさなど、企業やその従業員にとって新たな要件が発生する。説明可能なAI（XAI）の分野は、これらの問題を解決することを目的としています。しかし、現在の研究は主に実験室での研究であり、実社会への適用性を向上させる必要がある。そこで、このプロジェクト報告論文では、（X）AIに対する従業員のニーズと態度について考察する。そのために、従業員の(X)AIに対する考え方を調査する。その結果、AIやXAIは従業員にとって重要であると認識されているよく知られた用語であることが示唆された。この認識は、XAIがAI技術に関する理解しやすい洞察を提供することで、AIの利用を成功に導く可能性のある重要な第一歩である。教訓のセクションでは、特定された未解決の質問について議論し、企業のための人間中心のXAIデザインを開発するための将来の研究の方向性を提案します。従業員の(X)AIに対するニーズと態度に関する洞察を提供することで、我々のプロジェクトレポートは、企業と従業員の要求を満たすXAIソリューションの開発に貢献し、最終的にビジネス文脈でのAI技術の採用を成功に導くものである。

要約(オリジナル)

Companies’ adoption of artificial intelligence (AI) is increasingly becoming an essential element of business success. However, using AI poses new requirements for companies and their employees, including transparency and comprehensibility of AI systems. The field of Explainable AI (XAI) aims to address these issues. Yet, the current research primarily consists of laboratory studies, and there is a need to improve the applicability of the findings to real-world situations. Therefore, this project report paper provides insights into employees’ needs and attitudes towards (X)AI. For this, we investigate employees’ perspectives on (X)AI. Our findings suggest that AI and XAI are well-known terms perceived as important for employees. This recognition is a critical first step for XAI to potentially drive successful usage of AI by providing comprehensible insights into AI technologies. In a lessons-learned section, we discuss the open questions identified and suggest future research directions to develop human-centered XAI designs for companies. By providing insights into employees’ needs and attitudes towards (X)AI, our project report contributes to the development of XAI solutions that meet the requirements of companies and their employees, ultimately driving the successful adoption of AI technologies in the business context.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL