Reinforcement Learning to improve delta robot throws for sorting scrap metal

要約

この研究では、業界で広く使用されているデルタ ロボットとピック アンド プレイス (PaP) プロセスを使用して金属スクラップの選別効率を向上させる、強化学習 (RL) に基づく新しいアプローチを提案します。
当社では 3 つの古典的なモデルフリー RL アルゴリズム (TD3、SAC、および PPO) を使用して、金属スクラップの分別時間を短縮します。
従来の PaP 手法のように、正確なビンの位置に移動するのではなく、ビンに物体を投げ込むのに必要なリリース位置と速度を学習します。
私たちの貢献は 3 つあります。
まず、平行グリッパー用の RL ベースのピック アンド スロー (PaT) 戦略を学習するための新しいシミュレーション環境を提供します。
次に、この環境でこのタスクを学習するために RL アルゴリズムを使用し、シミュレーションでのスループットを 51% 高速化しながら 89% の精度を実現しました。
3 番目に、RL アルゴリズムのパフォーマンスを評価し、シミュレーションと現実の両方で PaP および最先端の PaT 手法と比較します。ドメインのランダム化を伴うシミュレーションからのみ学習し、ポリシーを移行するための現実の微調整は行いません。
この研究では、業界で使用されている PaP または古典的な最適化 PaT 手法と比較した、RL ベースの PaT の利点を示しています。

要約(オリジナル)

This study proposes a novel approach based on reinforcement learning (RL) to enhance the sorting efficiency of scrap metal using delta robots and a Pick-and-Place (PaP) process, widely used in the industry. We use three classical model-free RL algorithms (TD3, SAC and PPO) to reduce the time to sort metal scraps. We learn the release position and speed needed to throw an object in a bin instead of moving to the exact bin location, as with the classical PaP technique. Our contribution is threefold. First, we provide a new simulation environment for learning RL-based Pick-and-Throw (PaT) strategies for parallel grippers. Second, we use RL algorithms for learning this task in this environment resulting in 89% accuracy while speeding up the throughput by 51% in simulation. Third, we evaluate the performances of RL algorithms and compare them to a PaP and a state-of-the-art PaT method both in simulation and reality, learning only from simulation with domain randomisation and without fine tuning in reality to transfer our policies. This work shows the benefits of RL-based PaT compared to PaP or classical optimization PaT techniques used in the industry.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google