Let people fail! Exploring the influence of explainable virtual and robotic agents in learning-by-doing tasks

要約

人工知能 (AI) エージェントとの協調的な意思決定には、機会と課題が伴います。
人間と AI のパフォーマンスは個人のパフォーマンスを上回ることがよくありますが、そのようなテクノロジーが人間の行動に及ぼす影響は、主に AI エージェントが提案に対して正当な説明を提供できる場合に十分に理解されていません。
この研究では、実践による学習タスク中の人間の行動とパフォーマンスに対する古典的な説明とパートナーを意識した説明の効果を比較しています。
3 つの参加者グループが参加しました。1 つはコンピューターと対話し、もう 1 つは人型ロボットと対話し、3 番目のグループは支援なしで対話しました。
結果は、パートナーを意識した説明が、関与する人工エージェントの種類に基づいて参加者に異なる影響を与えることを示しました。
コンピューターを使用することで、参加者はタスクの完了時間を短縮しました。
同時に、人型ロボットと対話している人々は、タイミングを縮めることはなかったものの、その提案に従う傾向が強かった。
興味深いことに、実行による学習タスクを自律的に実行する参加者は、Explainable AI (XAI) によって支援された参加者よりも優れた知識獲得を実証しました。
これらの発見は深刻な疑問を引き起こし、自動個別指導や人間と AI のコラボレーションに重大な影響を及ぼします。

要約(オリジナル)

Collaborative decision-making with artificial intelligence (AI) agents presents opportunities and challenges. While human-AI performance often surpasses that of individuals, the impact of such technology on human behavior remains insufficiently understood, primarily when AI agents can provide justifiable explanations for their suggestions. This study compares the effects of classic vs. partner-aware explanations on human behavior and performance during a learning-by-doing task. Three participant groups were involved: one interacting with a computer, another with a humanoid robot, and a third one without assistance. Results indicated that partner-aware explanations influenced participants differently based on the type of artificial agents involved. With the computer, participants enhanced their task completion times. At the same time, those interacting with the humanoid robot were more inclined to follow its suggestions, although they did not reduce their timing. Interestingly, participants autonomously performing the learning-by-doing task demonstrated superior knowledge acquisition than those assisted by explainable AI (XAI). These findings raise profound questions and have significant implications for automated tutoring and human-AI collaboration.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google