Multi-Agent Strategy Explanations for Human-Robot Collaboration

要約

ロボットが人間のいる空間に配置される場合、ロボットが周囲の人々と自分の行動を調整できることが重要です。
このような調整には、環境内でロボットがどのように動作するかを人々が確実に理解できるようにすることが含まれます。
これは、ロボットのポリシーの説明を通じて実現できます。
説明可能な AI および RL に関するこれまでの研究の多くは、単一エージェントのポリシーの説明の生成に重点を置いていますが、協調ポリシーの説明の生成についてはほとんど検討されていません。
この研究では、人間とロボットのコラボレーションのためのマルチエージェント戦略の説明を生成する方法を調査します。
汎用マルチエージェント プランナーを使用して問題を定式化し、戦略条件付きランドマーク状態を通じて視覚的な説明を生成する方法と、LLM にランドマークを与えることによってテキストによる説明を生成する方法を示します。
ユーザー調査を通じて、私たちが提案するフレームワークの説明を提示すると、ユーザーは戦略の全領域をよりよく探索し、新しいロボットパートナーとより効率的に協力できることがわかりました。

要約(オリジナル)

As robots are deployed in human spaces, it is important that they are able to coordinate their actions with the people around them. Part of such coordination involves ensuring that people have a good understanding of how a robot will act in the environment. This can be achieved through explanations of the robot’s policy. Much prior work in explainable AI and RL focuses on generating explanations for single-agent policies, but little has been explored in generating explanations for collaborative policies. In this work, we investigate how to generate multi-agent strategy explanations for human-robot collaboration. We formulate the problem using a generic multi-agent planner, show how to generate visual explanations through strategy-conditioned landmark states and generate textual explanations by giving the landmarks to an LLM. Through a user study, we find that when presented with explanations from our proposed framework, users are able to better explore the full space of strategies and collaborate more efficiently with new robot partners.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google