Unraveling Human-AI Teaming: A Review and Outlook

要約

人工知能（AI）は前例のないペースで前進しており、意思決定と生産性を高める可能性が明確になります。
しかし、人間とAIの間の共同の意思決定プロセスは未発達のままであり、しばしばその変革的可能性に達していません。
このペーパーでは、受動的なツールから人間のチームの積極的な協力者へのAIエージェントの進化を探り、複雑な環境で自律的に学習、適応、および運用する能力を強調します。
このパラダイムは、新しいインタラクションプロトコル、委任戦略、責任分布フレームワークを必要とする従来のチームのダイナミクスに挑戦します。
チームの状況認識（SA）理論に基づいて、現在のヒューマンAIチームの研究における2つの重要なギャップを特定します。AIエージェントを人間の価値と目的に合わせることの難しさと、AIの能力が本物のチームメンバーとして十分に活用されています。
これらのギャップに対処するために、私たちは、策定、調整、メンテナンス、およびトレーニングの4つの重要な側面を中心とした構造化された研究の見通しを提案します。
私たちのフレームワークは、共有されたメンタルモデル、信頼構築、紛争解決、および効果的なチーム化のためのスキル適応の重要性を強調しています。
さらに、さまざまなチーム構成、目標、複雑さによってもたらされる独自の課題について説明します。
このペーパーでは、将来の研究と、持続可能で高性能な人間チームの実践的な設計の基礎アジェンダを提供します。

要約(オリジナル)

Artificial Intelligence (AI) is advancing at an unprecedented pace, with clear potential to enhance decision-making and productivity. Yet, the collaborative decision-making process between humans and AI remains underdeveloped, often falling short of its transformative possibilities. This paper explores the evolution of AI agents from passive tools to active collaborators in human-AI teams, emphasizing their ability to learn, adapt, and operate autonomously in complex environments. This paradigm shifts challenges traditional team dynamics, requiring new interaction protocols, delegation strategies, and responsibility distribution frameworks. Drawing on Team Situation Awareness (SA) theory, we identify two critical gaps in current human-AI teaming research: the difficulty of aligning AI agents with human values and objectives, and the underutilization of AI’s capabilities as genuine team members. Addressing these gaps, we propose a structured research outlook centered on four key aspects of human-AI teaming: formulation, coordination, maintenance, and training. Our framework highlights the importance of shared mental models, trust-building, conflict resolution, and skill adaptation for effective teaming. Furthermore, we discuss the unique challenges posed by varying team compositions, goals, and complexities. This paper provides a foundational agenda for future research and practical design of sustainable, high-performing human-AI teams.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google