Probabilistic Modeling of Human Teams to Infer False Beliefs

要約

私たちは、Minecraft 環境で 3 人のプレイヤーのチームが実行する模擬都市捜索救助 (USAR) シナリオ中に、人工知能 (AI) エージェントが人間の信念を推測するための確率的グラフィカル モデル (PGM) を開発しました。
PGM アプローチでは、観察可能な状態とアクションを明示的にするだけでなく、プレイヤーが時間の経過とともに見たり行ったりすることに関する証拠に基づいた信念や意図を明らかにします。
このアプローチは、AI エージェントが人間のチームを支援する場合に不可欠な介入の効果の推論もサポートします。
この実験にはプレイヤーの知識の操作が組み込まれており、仮想 Minecraft ベースのテストベッドはプレイヤーの視野内のオブジェクトを含むいくつかの情報ストリームへのアクセスを提供します。
参加者には、部屋の入り口付近に設置できる一連のマーカー ブロックが装備されており、部屋に犠牲者の有無をチームメイトに知らせることができます。
各チームのメンバーの 1 人には、他の 2 人とは異なるマーカーの凡例が与えられます。これにより、部屋の状態について誤解を招く可能性があります。
つまり、彼らは誤った信念を抱くことになります。
私たちは、個人および共有の精神状態を推論できる AI エージェントである ToMCAT を導入することで、この分野での以前の研究を拡張します。
プレイヤーの行動は、ゲーム内の視野で見ているもの、マーカーの意味についての信念、チームがどの意味を採用することを決定したかについての信念によって影響を受けることがわかりました。
さらに、ToMCAT の信念がプレイヤーの行動と一致していること、また、ToMCAT が偶然よりもはるかに優れた精度で誤った信念を推測できること、および人間の観察者による推論に匹敵することを示します。

要約(オリジナル)

We develop a probabilistic graphical model (PGM) for artificially intelligent (AI) agents to infer human beliefs during a simulated urban search and rescue (USAR) scenario executed in a Minecraft environment with a team of three players. The PGM approach makes observable states and actions explicit, as well as beliefs and intentions grounded by evidence about what players see and do over time. This approach also supports inferring the effect of interventions, which are vital if AI agents are to assist human teams. The experiment incorporates manipulations of players’ knowledge, and the virtual Minecraft-based testbed provides access to several streams of information, including the objects in the players’ field of view. The participants are equipped with a set of marker blocks that can be placed near room entrances to signal the presence or absence of victims in the rooms to their teammates. In each team, one of the members is given a different legend for the markers than the other two, which may mislead them about the state of the rooms; that is, they will hold a false belief. We extend previous works in this field by introducing ToMCAT, an AI agent that can reason about individual and shared mental states. We find that the players’ behaviors are affected by what they see in their in-game field of view, their beliefs about the meaning of the markers, and their beliefs about which meaning the team decided to adopt. In addition, we show that ToMCAT’s beliefs are consistent with the players’ actions and that it can infer false beliefs with accuracy significantly better than chance and comparable to inferences made by human observers.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google