Language-Conditioned Imitation Learning with Base Skill Priors under Unstructured Data

要約

言語条件付きロボット操作への関心の高まりは、ロボットが言語コマンドを解釈し、それに応じてオブジェクトを操作できるようにすることを目的として、複雑なタスクを理解して実行できるロボットを開発することを目的としています。
言語条件付きアプローチは、使い慣れた環境でタスクに対処する優れた機能を実証しますが、不慣れな環境設定に適応するには限界があります。
この研究では、不慣れな環境に適応する際のアルゴリズムの一般化を強化するために、非構造化データの下で基本スキル事前学習と模倣学習を組み合わせた、汎用の言語条件付きアプローチを提案します。
ゼロショット設定を使用して、シミュレーション環境と現実世界の両方の環境でモデルのパフォーマンスを評価します。
シミュレーション環境では、提案されたアプローチは、特に困難なゼロショット マルチ環境設定において、以前に報告された CALVIN ベンチマークのスコアを上回りました。
エージェントが継続的に完了できるタスクの平均数を示す、完了したタスクの平均長は、最先端の手法である HULC と比較して 2.5 倍以上改善されました。
さらに、追加の特定の適応を行わずにシミュレートされた環境のみでトレーニングした後、現実の環境でポリシーのゼロショット評価を実施します。
この評価では、10 個のタスクを設定し、現在の最先端のアプローチと比較して平均 30% の改善を達成し、シミュレート環境と現実世界の両方で高い汎化能力を実証しました。
コードやビデオへのアクセスなどの詳細については、補足資料を参照してください。

要約(オリジナル)

The growing interest in language-conditioned robot manipulation aims to develop robots capable of understanding and executing complex tasks, with the objective of enabling robots to interpret language commands and manipulate objects accordingly. While language-conditioned approaches demonstrate impressive capabilities for addressing tasks in familiar environments, they encounter limitations in adapting to unfamiliar environment settings. In this study, we propose a general-purpose, language-conditioned approach that combines base skill priors and imitation learning under unstructured data to enhance the algorithm’s generalization in adapting to unfamiliar environments. We assess our model’s performance in both simulated and real-world environments using a zero-shot setting. In the simulated environment, the proposed approach surpasses previously reported scores for CALVIN benchmark, especially in the challenging Zero-Shot Multi-Environment setting. The average completed task length, indicating the average number of tasks the agent can continuously complete, improves more than 2.5 times compared to the state-of-the-art method HULC. In addition, we conduct a zero-shot evaluation of our policy in a real-world setting, following training exclusively in simulated environments without additional specific adaptations. In this evaluation, we set up ten tasks and achieved an average 30% improvement in our approach compared to the current state-of-the-art approach, demonstrating a high generalization capability in both simulated environments and the real world. For further details, including access to our code and videos, please refer to our supplementary materials.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google