Cosmos World Foundation Model Platform for Physical AI

要約

物理的な AI は、まずデジタルでトレーニングする必要があります。
それ自体のデジタル ツインであるポリシー モデルと、世界のデジタル ツインであるワールド モデルが必要です。
このペーパーでは、開発者が物理 AI セットアップ用にカスタマイズされたワールド モデルを構築するのに役立つ Cosmos World Foundation Model Platform を紹介します。
私たちはワールド基盤モデルを、下流アプリケーション向けにカスタマイズされたワールド モデルに微調整できる汎用ワールド モデルとして位置づけています。
私たちのプラットフォームは、ビデオキュレーションパイプライン、事前トレーニングされた世界基盤モデル、事前トレーニングされた世界基盤モデルのポストトレーニングの例、およびビデオトークナイザーをカバーしています。
物理 AI ビルダーが社会の最も重要な問題を解決できるよう、私たちはプラットフォームをオープンソースにし、モデルを寛容なライセンスでオープンウェイトにし、https://github.com/NVIDIA/Cosmos から入手できます。

要約(オリジナル)

Physical AI needs to be trained digitally first. It needs a digital twin of itself, the policy model, and a digital twin of the world, the world model. In this paper, we present the Cosmos World Foundation Model Platform to help developers build customized world models for their Physical AI setups. We position a world foundation model as a general-purpose world model that can be fine-tuned into customized world models for downstream applications. Our platform covers a video curation pipeline, pre-trained world foundation models, examples of post-training of pre-trained world foundation models, and video tokenizers. To help Physical AI builders solve the most critical problems of our society, we make our platform open-source and our models open-weight with permissive licenses available via https://github.com/NVIDIA/Cosmos.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google