REX: Designing User-centered Repair and Explanations to Address Robot Failures

要約

現実世界の環境におけるロボットは、複数のユーザーと継続的に関わり、ユーザーのリクエストを満たす際に予期せぬ競合につながる変化に遭遇します。
最近の技術の進歩 (大規模言語モデル (LLM)、プログラム合成など) は、そのような競合に対処する修復計画を自動的に生成するさまざまな方法を提供します。
この研究では、2 つのユーザー調査を通じて、ロボットの故障時のユーザー エクスペリエンスを向上させるために自動修復と説明をどのように設計できるかを理解しました。
最初のオンライン調査 ($n=162$) では、自動修復と説明を実行するロボットに対するユーザーの信頼、満足度、有用性が向上したと回答しました。
ただし、適応的な修復戦略を必要とするリスク要因 (安全性、プライバシー、複雑さ) も特定しました。
2 番目の対面調査 ($n=24$) では、リスクの重大度と種類に応じた明確な修復および説明戦略が明らかになりました。
私たちは、設計ベースのアプローチを使用して、ロボットが競合や障害に対処するためのソリューションとして、説明付きの自動修復を検討し、リスク要因に対する適応戦略を補完します。
最後に、変化するユーザーのニーズや環境の中でシームレスな動作を実現するために、そのような戦略をロボット設計に組み込むことの意味について説明します。

要約(オリジナル)

Robots in real-world environments continuously engage with multiple users and encounter changes that lead to unexpected conflicts in fulfilling user requests. Recent technical advancements (e.g., large-language models (LLMs), program synthesis) offer various methods for automatically generating repair plans that address such conflicts. In this work, we understand how automated repair and explanations can be designed to improve user experience with robot failures through two user studies. In our first, online study ($n=162$), users expressed increased trust, satisfaction, and utility with the robot performing automated repair and explanations. However, we also identified risk factors — safety, privacy, and complexity — that require adaptive repair strategies. The second, in-person study ($n=24$) elucidated distinct repair and explanation strategies depending on the level of risk severity and type. Using a design-based approach, we explore automated repair with explanations as a solution for robots to handle conflicts and failures, complemented by adaptive strategies for risk factors. Finally, we discuss the implications of incorporating such strategies into robot designs to achieve seamless operation among changing user needs and environments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google