Language-Conditioned Imitation Learning with Base Skill Priors under Unstructured Data

要約

言語条件付きロボット操作への関心が高まっているのは、複雑なタスクを理解して実行できるロボットを開発するためであり、その目的は、ロボットが言語コマンドを解釈し、それに応じて物体を操作できるようにすることである。言語条件付きロボットのアプローチは、慣れ親しんだ環境でのタスクに対しては素晴らしい能力を発揮するが、不慣れな環境設定への適応には限界がある。本研究では、不慣れな環境に適応する際のアルゴリズムの汎化性を向上させるために、ベーススキル事前設定と非構造化データ下での模倣学習を組み合わせた、汎用的な言語条件付きアプローチを提案する。このモデルの性能を、ゼロショット設定を用いたシミュレーション環境と実環境の両方で評価する。模擬環境において、提案手法はCALVINベンチマーク、特に困難なゼロショット複数環境設定において、これまでに報告されたスコアを上回る。また、エージェントが継続的に完了できるタスクの平均数を示す平均完了タスク長は、最先端手法HULCと比較して2.5倍以上改善した。さらに、我々は、追加の特別な適応なしに、シミュレートされた環境のみでのトレーニングの後に、実世界の設定で我々のポリシーのゼロショット評価を実施する。この評価では、10のタスクを設定し、現在の最先端手法と比較して、我々の手法で平均30％の改善を達成し、シミュレーション環境と実世界の両方で高い汎化能力を実証しました。コードやビデオへのアクセスを含む詳細については、https://hk-zh.github.io/spil/ を参照してください。

要約(オリジナル)

The growing interest in language-conditioned robot manipulation aims to develop robots capable of understanding and executing complex tasks, with the objective of enabling robots to interpret language commands and manipulate objects accordingly. While language-conditioned approaches demonstrate impressive capabilities for addressing tasks in familiar environments, they encounter limitations in adapting to unfamiliar environment settings. In this study, we propose a general-purpose, language-conditioned approach that combines base skill priors and imitation learning under unstructured data to enhance the algorithm’s generalization in adapting to unfamiliar environments. We assess our model’s performance in both simulated and real-world environments using a zero-shot setting. In the simulated environment, the proposed approach surpasses previously reported scores for CALVIN benchmark, especially in the challenging Zero-Shot Multi-Environment setting. The average completed task length, indicating the average number of tasks the agent can continuously complete, improves more than 2.5 times compared to the state-of-the-art method HULC. In addition, we conduct a zero-shot evaluation of our policy in a real-world setting, following training exclusively in simulated environments without additional specific adaptations. In this evaluation, we set up ten tasks and achieved an average 30% improvement in our approach compared to the current state-of-the-art approach, demonstrating a high generalization capability in both simulated environments and the real world. For further details, including access to our code and videos, please refer to https://hk-zh.github.io/spil/

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL