Outlining the design space of eXplainable swarm (xSwarm): experts perspective

要約

群れロボティクスでは、エージェントはローカルな役割を通じて対話し、個人の能力を超えた複雑なタスクを解決します。
群れは人間の介入を必要とせずに一部の操作を実行できますが、多くの安全性が重要なアプリケーションでは依然として人間のオペレーターが群れを制御および監視する必要があります。
効果的な人間と集団の相互作用 (HSI) には新たな課題があり、対処され始めたばかりです。
説明可能性は、効果的で信頼できる HSI を促進し、Human-Swarm チームの全体的なパフォーマンスを向上させる 1 つの要素です。
説明可能性は、ヒューマン ロボット インタラクションや人間中心の ML など、さまざまなヒューマン AI ドメインにわたって研究されました。
しかし、Human-AI 文献で研究された説明が Human-Swarm の研究開発に有益であるかどうかはまだ不明瞭です。
さらに、文献には、群れロボット工学における説明可能性要件の前提条件、つまり、説明可能な群れがどのような種類の質問に答えることが期待されているのか、また、群れがどのような種類の説明を生成すると期待されているのか、に関する基礎的な研究が不足しています。
26 人の群の専門家を調査することで、これらの質問に答え、人間と群の環境で説明を生成するために専門家が直面する課題を特定しようとしています。
私たちの研究は、説明可能性を群システムでどのように実装および開発できるかを検討する、eXplainable Swarm (xSwarm) の新しい研究分野を定義するための洞察に貢献します。
この文書は、xSwarm に関する議論の始まりとなり、この分野でのさらなる研究への道を開きます。

要約(オリジナル)

In swarm robotics, agents interact through local roles to solve complex tasks beyond an individual’s ability. Even though swarms are capable of carrying out some operations without the need for human intervention, many safety-critical applications still call for human operators to control and monitor the swarm. There are novel challenges to effective Human-Swarm Interaction (HSI) that are only beginning to be addressed. Explainability is one factor that can facilitate effective and trustworthy HSI and improve the overall performance of Human-Swarm team. Explainability was studied across various Human-AI domains, such as Human-Robot Interaction and Human-Centered ML. However, it is still ambiguous whether explanations studied in Human-AI literature would be beneficial in Human-Swarm research and development. Furthermore, the literature lacks foundational research on the prerequisites for explainability requirements in swarm robotics, i.e., what kind of questions an explainable swarm is expected to answer, and what types of explanations a swarm is expected to generate. By surveying 26 swarm experts, we seek to answer these questions and identify challenges experts faced to generate explanations in Human-Swarm environments. Our work contributes insights into defining a new area of research of eXplainable Swarm (xSwarm) which looks at how explainability can be implemented and developed in swarm systems. This paper opens the discussion on xSwarm and paves the way for more research in the field.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google