Don’t Let Your Robot be Harmful: Responsible Robotic Manipulation

要約

ロボット操作における人間の指示を考えずに実行すると、中毒、火災、さらには爆発などの重大な安全上のリスクにつながる可能性があります。
この論文では、ロボットが指示を完了し、複雑な操作を安全かつ効率的に実行しながら、現実世界の環境における潜在的な危険を考慮する必要がある、責任あるロボット操作について説明します。
ただし、現実世界のこのようなシナリオは変化しやすく、トレーニングにはリスクが伴います。
この課題に対処するために、私たちは政策としての安全性を提案します。これには、(i) 安全リスクを含むシナリオを自動的に生成し、仮想インタラクションを実行する世界モデル、および (ii) 反射によって結果を推測し、認知を徐々に発達させるメンタルモデルが含まれます。
安全性を高め、ロボットが危険を回避しながらタスクを実行できるようにします。
さらに、SafeBox 合成データセットを作成します。これには、さまざまな安全リスク シナリオと指示を伴う 100 個の責任あるロボット操作タスクが含まれており、実際の実験に関連するリスクを効果的に軽減します。
実験では、Safety-as-policy が合成データセットと現実世界の実験の両方でリスクを回避し、タスクを効率的に完了でき、ベースライン手法を大幅に上回るパフォーマンスを示すことが実証されています。
当社の SafeBox データセットは、現実世界のシナリオと一貫した評価結果を示し、将来の研究のための安全で効果的なベンチマークとして機能します。

要約(オリジナル)

Unthinking execution of human instructions in robotic manipulation can lead to severe safety risks, such as poisonings, fires, and even explosions. In this paper, we present responsible robotic manipulation, which requires robots to consider potential hazards in the real-world environment while completing instructions and performing complex operations safely and efficiently. However, such scenarios in real world are variable and risky for training. To address this challenge, we propose Safety-as-policy, which includes (i) a world model to automatically generate scenarios containing safety risks and conduct virtual interactions, and (ii) a mental model to infer consequences with reflections and gradually develop the cognition of safety, allowing robots to accomplish tasks while avoiding dangers. Additionally, we create the SafeBox synthetic dataset, which includes one hundred responsible robotic manipulation tasks with different safety risk scenarios and instructions, effectively reducing the risks associated with real-world experiments. Experiments demonstrate that Safety-as-policy can avoid risks and efficiently complete tasks in both synthetic dataset and real-world experiments, significantly outperforming baseline methods. Our SafeBox dataset shows consistent evaluation results with real-world scenarios, serving as a safe and effective benchmark for future research.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google