RT-1: Robotics Transformer for Real-World Control at Scale

要約

大規模で多様な、タスクに依存しないデータセットから知識を転送することにより、最新の機械学習モデルは、ゼロショットまたは小さなタスク固有のデータセットを使用して、特定のダウンストリーム タスクを高レベルのパフォーマンスで解決できます。
この機能は、コンピューター ビジョン、自然言語処理、音声認識などの他の分野で実証されていますが、実世界のロボット データを収集することが難しいため、モデルの一般化機能が特に重要なロボット工学ではまだ示されていません。
.
このような一般的なロボット モデルの成功の鍵の 1 つは、多様なロボット データをすべて吸収できる大容量アーキテクチャと組み合わせた、タスクにとらわれない無制限のトレーニングにあると私たちは主張します。
このホワイト ペーパーでは、ロボティクス トランスフォーマーと呼ばれる、有望なスケーラブルなモデル プロパティを示すモデル クラスを紹介します。
実世界のタスクを実行する実際のロボットに関する大規模なデータ収集に基づいて、さまざまなモデル クラスと、データ サイズ、モデル サイズ、およびデータの多様性の関数として一般化する能力の研究で、結論を検証します。
プロジェクトのウェブサイトとビデオは、robotics-transformer.github.io にあります。

要約(オリジナル)

By transferring knowledge from large, diverse, task-agnostic datasets, modern machine learning models can solve specific downstream tasks either zero-shot or with small task-specific datasets to a high level of performance. While this capability has been demonstrated in other fields such as computer vision, natural language processing or speech recognition, it remains to be shown in robotics, where the generalization capabilities of the models are particularly critical due to the difficulty of collecting real-world robotic data. We argue that one of the keys to the success of such general robotic models lies with open-ended task-agnostic training, combined with high-capacity architectures that can absorb all of the diverse, robotic data. In this paper, we present a model class, dubbed Robotics Transformer, that exhibits promising scalable model properties. We verify our conclusions in a study of different model classes and their ability to generalize as a function of the data size, model size, and data diversity based on a large-scale data collection on real robots performing real-world tasks. The project’s website and videos can be found at robotics-transformer.github.io

arxiv情報

提供元, 利用サービス

arxiv.jp, Google