Towards Effective Human-AI Decision-Making: The Role of Human Learning in Appropriate Reliance on AI Advice

要約

人間とAIの協働の真の可能性は、人間とAIの相補的な能力を活用することで、AIや人間の個々の能力を凌駕する共同パフォーマンスを達成すること、すなわち相補的チームパフォーマンス（CTP）を達成することにある。この相補性を実現するためには、人間はAIのアドバイスに従うこと、すなわちAIのアドバイスに適切に依存することを慎重に行う必要がある。これまでの研究では、AIの推奨を評価するためにAIのメンタルモデルを構築することに焦点が当てられてきたが、最近の研究では、メンタルモデルだけでは適切な依存を説明できないことが示されている。我々は、メンタルモデルに加えて、人間の学習が適切な信頼、ひいては複合知能の重要な媒介因子であると仮定する。本研究では、100名の実験参加者を用いて、学習と適切な信頼性の関係を実証した。本研究は、信頼性を分析するための基本的な概念を提供し、人間とAIによる意思決定の効果的な設計のための示唆を導く。

要約(オリジナル)

The true potential of human-AI collaboration lies in exploiting the complementary capabilities of humans and AI to achieve a joint performance superior to that of the individual AI or human, i.e., to achieve complementary team performance (CTP). To realize this complementarity potential, humans need to exercise discretion in following AI ‘s advice, i.e., appropriately relying on the AI’s advice. While previous work has focused on building a mental model of the AI to assess AI recommendations, recent research has shown that the mental model alone cannot explain appropriate reliance. We hypothesize that, in addition to the mental model, human learning is a key mediator of appropriate reliance and, thus, CTP. In this study, we demonstrate the relationship between learning and appropriate reliance in an experiment with 100 participants. This work provides fundamental concepts for analyzing reliance and derives implications for the effective design of human-AI decision-making.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL