Mutual Theory of Mind in Human-AI Collaboration: An Empirical Study with LLM-driven AI Agents in a Real-time Shared Workspace Task

要約

心の理論 (ToM) は、他者を理解するための重要な能力として、人間のコラボレーションとコミュニケーションに大きな影響を与えます。
ToM 機能を備えた AI エージェントが人間と協働するとき、そのような人間と AI のチーム (HAT) では心の相互理論 (MToM) が生じます。
MToM プロセスには、インタラクティブなコミュニケーションと ToM ベースの戦略調整が含まれ、チームのパフォーマンスとコラボレーション プロセスに影響を与えます。
MToM プロセスを調査するために、リアルタイム共有ワークスペース タスクで ToM および通信モジュールを備えた大規模な言語モデル駆動型 AI エージェントを使用した混合設計実験を実施しました。
エージェントの ToM 能力はチームのパフォーマンスに大きな影響を与えませんが、エージェントに対する人間の理解と理解されているという感覚を高めることがわかりました。
私たちの研究の参加者のほとんどは、口頭コミュニケーションが人間の負担を増大させると信じており、結果は双方向コミュニケーションが HAT パフォーマンスの低下につながることを示しています。
リアルタイムの共有ワークスペース タスクで人間と協働する AI エージェントの設計に対する結果の影響について説明します。

要約(オリジナル)

Theory of Mind (ToM) significantly impacts human collaboration and communication as a crucial capability to understand others. When AI agents with ToM capability collaborate with humans, Mutual Theory of Mind (MToM) arises in such human-AI teams (HATs). The MToM process, which involves interactive communication and ToM-based strategy adjustment, affects the team’s performance and collaboration process. To explore the MToM process, we conducted a mixed-design experiment using a large language model-driven AI agent with ToM and communication modules in a real-time shared-workspace task. We find that the agent’s ToM capability does not significantly impact team performance but enhances human understanding of the agent and the feeling of being understood. Most participants in our study believe verbal communication increases human burden, and the results show that bidirectional communication leads to lower HAT performance. We discuss the results’ implications for designing AI agents that collaborate with humans in real-time shared workspace tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google