InteRACT: Transformer Models for Human Intent Prediction Conditioned on Robot Actions

要約

人間とロボットの協調操作において、ロボットは人間の意図を予測し、それに応じて行動を適応させ、タスクを円滑に遂行しなければならない。しかし、人間の意図はロボットが取る行動に依存するため、鶏が先か卵が先かという問題が生じる。先行する手法では、このような相互依存性を無視し、ロボットの行動とは無関係に限界的な意図予測モデルを学習する。これは、ペアになった人間とロボットのインタラクションデータセットが不足しているため、条件付きモデルの学習が困難であるためです。その代わりに、より簡単にアクセスできる大規模な人間と人間のインタラクションデータを活用できないだろうか？我々の重要な洞察は、人間-人間データから人間-ロボットデータへの転移学習を可能にする、人間とロボットの行動の対応関係を利用することである。我々は、大規模な人間-人間データセットで条件付き意図予測モデルを事前学習し、小規模な人間-ロボットデータセットで微調整を行う新しいアーキテクチャ、InteRACTを提案する。実世界の人間とロボットの協調操作タスクのセットで評価し、我々の条件付きモデルが様々な限界ベースラインよりも改善されることを示す。また、7自由度ロボットアームを遠隔操作する新しい技術を導入し、多様な人間とロボットの協調操作データを収集し、オープンソース化する。

要約(オリジナル)

In collaborative human-robot manipulation, a robot must predict human intents and adapt its actions accordingly to smoothly execute tasks. However, the human’s intent in turn depends on actions the robot takes, creating a chicken-or-egg problem. Prior methods ignore such inter-dependency and instead train marginal intent prediction models independent of robot actions. This is because training conditional models is hard given a lack of paired human-robot interaction datasets. Can we instead leverage large-scale human-human interaction data that is more easily accessible? Our key insight is to exploit a correspondence between human and robot actions that enables transfer learning from human-human to human-robot data. We propose a novel architecture, InteRACT, that pre-trains a conditional intent prediction model on large human-human datasets and fine-tunes on a small human-robot dataset. We evaluate on a set of real-world collaborative human-robot manipulation tasks and show that our conditional model improves over various marginal baselines. We also introduce new techniques to tele-operate a 7-DoF robot arm and collect a diverse range of human-robot collaborative manipulation data, which we open-source.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL