Evaluating Real-World Robot Manipulation Policies in Simulation

要約

ロボット工学の分野は、汎用的なロボット操作政策に向けて大きく進歩しました。
しかし、そのような政策の実際の評価は拡張性がなく、再現性の課題に直面しており、政策が実行できるタスクの範囲を広げるにつれて、この課題はさらに悪化する可能性があります。
私たちは、信頼性の高いシミュレーション評価を実現するための重要な課題として、現実環境とシミュレーション環境の間の制御と視覚的な差異を特定し、現実世界の環境の完全に忠実なデジタル ツインを作成する必要なく、これらのギャップを軽減するアプローチを提案します。
次に、これらのアプローチを使用して、一般的な実際のロボットのセットアップで操作ポリシーを評価するためのシミュレートされた環境のコレクションである SIMPLER を作成します。
操作ポリシーのシミュレーションと実際のペア評価を通じて、SIMPLER 環境と現実世界におけるポリシーのパフォーマンスの間に強い相関関係があることを実証します。
さらに、SIMPLER 評価は、さまざまな分布の変化に対する感度など、現実世界の政策行動モードを正確に反映していることがわかりました。
新しい環境を作成するためのワークフローとともに、すべての SIMPLER 環境を https://simpler-env.github.io でオープンソース化し、汎用操作ポリシーとシミュレートされた評価フレームワークの研究を促進します。

要約(オリジナル)

The field of robotics has made significant advances towards generalist robot manipulation policies. However, real-world evaluation of such policies is not scalable and faces reproducibility challenges, which are likely to worsen as policies broaden the spectrum of tasks they can perform. We identify control and visual disparities between real and simulated environments as key challenges for reliable simulated evaluation and propose approaches for mitigating these gaps without needing to craft full-fidelity digital twins of real-world environments. We then employ these approaches to create SIMPLER, a collection of simulated environments for manipulation policy evaluation on common real robot setups. Through paired sim-and-real evaluations of manipulation policies, we demonstrate strong correlation between policy performance in SIMPLER environments and in the real world. Additionally, we find that SIMPLER evaluations accurately reflect real-world policy behavior modes such as sensitivity to various distribution shifts. We open-source all SIMPLER environments along with our workflow for creating new environments at https://simpler-env.github.io to facilitate research on general-purpose manipulation policies and simulated evaluation frameworks.

arxiv情報

著者 Xuanlin Li,Kyle Hsu,Jiayuan Gu,Karl Pertsch,Oier Mees,Homer Rich Walke,Chuyuan Fu,Ishikaa Lunawat,Isabel Sieh,Sean Kirmani,Sergey Levine,Jiajun Wu,Chelsea Finn,Hao Su,Quan Vuong,Ted Xiao
発行日 2024-05-09 17:30:16+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CV, cs.LG, cs.RO パーマリンク