Self-Recovery Prompting: Promptable General Purpose Service Robot System with Foundation Models and Self-Recovery

要約

さまざまな環境で多様な業務を実行できる汎用サービスロボット(GPSR)には、高い汎用性と業務や環境への適応性を備えたシステムが必要です。
この論文では、まず、複数の基礎モデルに基づいて、世界的な競技会 (RoboCup@Home 2023) に向けたトップレベルの GPSR システムを開発しました。
このシステムは、バリエーションに対して一般化可能であり、各モデルをプロンプトすることによって適応可能です。
次に、開発したシステムのパフォーマンスを分析することにより、より現実的な GPSR アプリケーション設定における 3 種類の障害 (情報不足、誤った計画生成、および計画実行の失敗) を発見しました。
次に、障害から回復するために必要な情報を探索し、プロンプトを変更する自己回復プロンプト パイプラインを提案します。
自己回復機構を備えたシステムがさまざまな障害ケースを解決してタスクを達成できることを実験的に確認します。
補足ビデオは https://sites.google.com/view/srgpsr でご覧いただけます。

要約(オリジナル)

A general-purpose service robot (GPSR), which can execute diverse tasks in various environments, requires a system with high generalizability and adaptability to tasks and environments. In this paper, we first developed a top-level GPSR system for worldwide competition (RoboCup@Home 2023) based on multiple foundation models. This system is both generalizable to variations and adaptive by prompting each model. Then, by analyzing the performance of the developed system, we found three types of failure in more realistic GPSR application settings: insufficient information, incorrect plan generation, and plan execution failure. We then propose the self-recovery prompting pipeline, which explores the necessary information and modifies its prompts to recover from failure. We experimentally confirm that the system with the self-recovery mechanism can accomplish tasks by resolving various failure cases. Supplementary videos are available at https://sites.google.com/view/srgpsr .

arxiv情報

著者 Mimo Shirasaka,Tatsuya Matsushima,Soshi Tsunashima,Yuya Ikeda,Aoi Horo,So Ikoma,Chikaha Tsuji,Hikaru Wada,Tsunekazu Omija,Dai Komukai,Yutaka Matsuo Yusuke Iwasawa
発行日 2023-09-27 02:46:20+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CV, cs.LG, cs.RO, cs.SY, eess.SY パーマリンク