TacSL: A Library for Visuotactile Sensor Simulation and Learning

要約

人間とロボットの両方にとって、触覚センシングとして知られる触覚は、接触の多い操作タスクを実行するために重要です。
ロボット触覚センシングにおける 3 つの主要な課題は、1) センサー信号の解釈、2) 新しいシナリオでのセンサー信号の生成、3) センサーベースのポリシーの学習です。
視覚触覚センサーの場合、視覚センサー (RGB カメラなど) との密接な関係によって解釈が容易になります。
ただし、視覚触覚センサーには通常、接触、変形、照明、画像化が含まれ、これらすべてをシミュレートするにはコストがかかるため、生成は依然として困難です。
一方、大規模なデータ収集にはシミュレーションを活用できないため、ポリシーの学習は困難を極めています。
GPU ベースの視覚触覚センサーのシミュレーションと学習のためのライブラリである \textbf{TacSL} (\textit{taxel}) を紹介します。
\textbf{TacSL} を使用すると、視覚触覚画像をシミュレートし、以前の最先端のものよりも $200\time$ を超える速さで接触力分布を抽出できます。これらはすべて、広く使用されている Isaac Gym シミュレーター内で行われます。
さらに、 \textbf{TacSL} は、シミュレーションからリアルへのアプリケーションのポリシー学習を促進できる、複数のセンサー モデル、接触集中型のトレーニング環境、オンライン/オフライン アルゴリズムを含む学習ツールキットを提供します。
アルゴリズム面では、非対称アクター批判蒸留 (\sysName) と呼ばれる新しいオンライン強化学習アルゴリズムを導入します。このアルゴリズムは、現実世界に転送できる触覚ベースのポリシーをシミュレーションで効果的かつ効率的に学習するように設計されています。
最後に、接触の多い操作タスクにおける蒸留とマルチモーダル センシングの利点を評価し、最も重要なこととして、シミュレーションからリアルへの転送を実行することで、ライブラリとアルゴリズムの有用性を実証します。
補足のビデオと結果は \url{https://iakinola23.github.io/tacsl/} にあります。

要約(オリジナル)

For both humans and robots, the sense of touch, known as tactile sensing, is critical for performing contact-rich manipulation tasks. Three key challenges in robotic tactile sensing are 1) interpreting sensor signals, 2) generating sensor signals in novel scenarios, and 3) learning sensor-based policies. For visuotactile sensors, interpretation has been facilitated by their close relationship with vision sensors (e.g., RGB cameras). However, generation is still difficult, as visuotactile sensors typically involve contact, deformation, illumination, and imaging, all of which are expensive to simulate; in turn, policy learning has been challenging, as simulation cannot be leveraged for large-scale data collection. We present \textbf{TacSL} (\textit{taxel}), a library for GPU-based visuotactile sensor simulation and learning. \textbf{TacSL} can be used to simulate visuotactile images and extract contact-force distributions over $200\times$ faster than the prior state-of-the-art, all within the widely-used Isaac Gym simulator. Furthermore, \textbf{TacSL} provides a learning toolkit containing multiple sensor models, contact-intensive training environments, and online/offline algorithms that can facilitate policy learning for sim-to-real applications. On the algorithmic side, we introduce a novel online reinforcement-learning algorithm called asymmetric actor-critic distillation (\sysName), designed to effectively and efficiently learn tactile-based policies in simulation that can transfer to the real world. Finally, we demonstrate the utility of our library and algorithms by evaluating the benefits of distillation and multimodal sensing for contact-rich manip ulation tasks, and most critically, performing sim-to-real transfer. Supplementary videos and results are at \url{https://iakinola23.github.io/tacsl/}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google