Trust in AI: Progress, Challenges, and Future Directions

要約

様々なアプリケーション、サービス、製品を通じて、人工知能（AI）システムの日常生活における利用が増加していることは、ユーザーの視点からAIに対する信頼／不信の重要性を説明している。AI主導のシステムは（他の技術とは対照的に）、人間のエージェントが使用する有益な道具としてだけでなく、私たちの代理人や、人間の思考、意思決定、主体性に影響を与えるような操作的な心にもなりつつあり、私たちの生活に偏在している。AIに対する信頼／不信は調整装置の役割を果たし、信頼が高まればAIの普及率が高まり、不信が高まればAIの普及率が低下するため、普及の度合いを大きく左右する可能性がある。近年、様々な研究がAIに対する信頼／不信の多様な側面とその関連する考察に注目している。この体系的な文献レビューでは、現在のAI文献レビューにおける信頼の概念化の後、異なるタイプの人間と機械の相互作用における信頼と、異なる領域における技術の受容に対するその影響について調査する。さらに、技術的（安全性、正確性、頑健性など）および非技術的（倫理的、法的、混合的など）な信頼性の指標と、いくつかの信頼性の測定法の分類法を提案する。さらに、AIにおける主要な信頼破壊要因（例えば、自律性と尊厳の脅威）と信頼メーカーについて検討し、信頼できるAIへの移行に向けた将来の方向性と可能性のある解決策を提案する。

要約(オリジナル)

The increasing use of artificial intelligence (AI) systems in our daily life through various applications, services, and products explains the significance of trust/distrust in AI from a user perspective. AI-driven systems (as opposed to other technologies) have ubiquitously diffused in our life not only as some beneficial tools to be used by human agents but also are going to be substitutive agents on our behalf, or manipulative minds that would influence human thought, decision, and agency. Trust/distrust in AI plays the role of a regulator and could significantly control the level of this diffusion, as trust can increase, and distrust may reduce the rate of adoption of AI. Recently, varieties of studies have paid attention to the variant dimension of trust/distrust in AI, and its relevant considerations. In this systematic literature review, after conceptualization of trust in the current AI literature review, we will investigate trust in different types of human-Machine interaction, and its impact on technology acceptance in different domains. In addition to that, we propose a taxonomy of technical (i.e., safety, accuracy, robustness) and non-technical axiological (i.e., ethical, legal, and mixed) trustworthiness metrics, and some trustworthy measurements. Moreover, we examine some major trust-breakers in AI (e.g., autonomy and dignity threat), and trust makers; and propose some future directions and probable solutions for the transition to a trustworthy AI.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL