Gap the (Theory of) Mind: Sharing Beliefs About Teammates’ Goals Boosts Collaboration Perception, Not Performance

要約

人員チームでは、計画、コラボレーション、および有効性を高めるために、目標を公然と共有することがしばしば想定されます。
ただし、これらの目標の直接的なコミュニケーションは必ずしも実行可能ではなく、チームメイトがアクションを通じてパートナーの意図を推測することを要求します。
これに基づいて、AIエージェントが人間のチームメイトの目標についての推測された理解を共有する能力が、タスクのパフォーマンスと知覚コラボレーションを改善できるかどうかを調査します。
3つの条件なしの認識（NR）、実行可能な目標（VG）、および実行可能な目標オンデマンド（VGOD）を比較することにより、目標共有情報はタスクパフォ​​ーマンスや全体的な満足度スコアの大幅な改善をもたらさないが、テーマ分析は戦略的適応とコラボレーションの主観的評価をサポートしたことを示唆していることがわかります。
認知負荷評価では、条件全体に追加の負担がなく、人間とエージェントの相互作用における情報性とシンプルさのバランスをとるという課題を強調しました。
これらの調査結果は、ゴールシェアリングの微妙なトレードオフを強調しています。信頼を促進し、認識されたコラボレーションを強化しますが、客観的なパフォーマンスの向上を妨げることがあります。

要約(オリジナル)

In human-agent teams, openly sharing goals is often assumed to enhance planning, collaboration, and effectiveness. However, direct communication of these goals is not always feasible, requiring teammates to infer their partner’s intentions through actions. Building on this, we investigate whether an AI agent’s ability to share its inferred understanding of a human teammate’s goals can improve task performance and perceived collaboration. Through an experiment comparing three conditions-no recognition (NR), viable goals (VG), and viable goals on-demand (VGod) – we find that while goal-sharing information did not yield significant improvements in task performance or overall satisfaction scores, thematic analysis suggests that it supported strategic adaptations and subjective perceptions of collaboration. Cognitive load assessments revealed no additional burden across conditions, highlighting the challenge of balancing informativeness and simplicity in human-agent interactions. These findings highlight the nuanced trade-off of goal-sharing: while it fosters trust and enhances perceived collaboration, it can occasionally hinder objective performance gains.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google