FlowBot3D: Learning 3D Articulation Flow to Manipulate Articulated Objects

要約

私たちは、ロボットが目に見えないクラスのオブジェクトを関節表現できるように一般化した、3D 関節オブジェクトを認識して操作するための新しい方法を探索します。
我々は、物体を関節運動させるためのシステムの下流の動作計画を導くために、さまざまな関節物体の部品の潜在的な動きを予測することを学習するビジョンベースのシステムを提案します。
オブジェクトの動きを予測するには、関節運動下の点群内の点の点ごとの動きの方向を表す高密度ベクトル フィールドを出力するようにニューラル ネットワークをトレーニングします。
次に、このベクトル場に基づいて分析モーション プランナーを展開し、最大限の関節運動を生み出すポリシーを実現します。
私たちはビジョン システムを完全にシミュレーションでトレーニングし、シミュレーションと現実世界の両方で目に見えないオブジェクト インスタンスや新しいカテゴリに一般化するシステムの機能を実証し、微調整なしで Sawyer ロボットにポリシーを展開します。
結果は、私たちのシステムがシミュレーション実験と現実世界の実験の両方で最先端のパフォーマンスを達成していることを示しています。

要約(オリジナル)

We explore a novel method to perceive and manipulate 3D articulated objects that generalizes to enable a robot to articulate unseen classes of objects. We propose a vision-based system that learns to predict the potential motions of the parts of a variety of articulated objects to guide downstream motion planning of the system to articulate the objects. To predict the object motions, we train a neural network to output a dense vector field representing the point-wise motion direction of the points in the point cloud under articulation. We then deploy an analytical motion planner based on this vector field to achieve a policy that yields maximum articulation. We train the vision system entirely in simulation, and we demonstrate the capability of our system to generalize to unseen object instances and novel categories in both simulation and the real world, deploying our policy on a Sawyer robot with no finetuning. Results show that our system achieves state-of-the-art performance in both simulated and real-world experiments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google