要約
大規模言語モデル (LLM) の急速な発展に伴い、ロボットは大規模言語モデルがもたらす新しい対話方法の利点を享受し始めています。
エッジ コンピューティングは迅速な応答、プライバシー、ネットワークの自律性のニーズを満たすため、さまざまな業界にわたるロボット ナビゲーション用の大規模モデルの広範な展開が容易になると考えています。
エッジ デバイス上で言語モデルをローカルに展開できるようにするために、いくつかのモデル ブースティング手法を採用しています。
この論文では、ロボット ナビゲーション用に小型言語モデル (SLM) とも呼ばれる軽量 LLM を強化する方法である FASTNav を提案します。
提案された方法には、微調整、教師と生徒の反復、言語ベースのマルチポイント ロボット ナビゲーションの 3 つのモジュールが含まれています。
当社では、シミュレーションと実際のロボットの両方で FASTNav を使用してモデルをトレーニングおよび評価し、低コスト、高精度、短い応答時間でモデルを導入できることを証明しています。
他のモデル圧縮方法と比較して、FASTNav は言語モデルのローカル展開に可能性を示しており、エッジ デバイスでの言語ガイドによるロボット ナビゲーションの有望なソリューションとなる傾向があります。
要約(オリジナル)
With the rapid development of large language models (LLM), robots are starting to enjoy the benefits of new interaction methods that large language models bring. Because edge computing fulfills the needs for rapid response, privacy, and network autonomy, we believe it facilitates the extensive deployment of large models for robot navigation across various industries. To enable local deployment of language models on edge devices, we adopt some model boosting methods. In this paper, we propose FASTNav – a method for boosting lightweight LLMs, also known as small language models (SLMs), for robot navigation. The proposed method contains three modules: fine-tuning, teacher-student iteration, and language-based multi-point robot navigation. We train and evaluate models with FASTNav in both simulation and real robots, proving that we can deploy them with low cost, high accuracy and low response time. Compared to other model compression methods, FASTNav shows potential in the local deployment of language models and tends to be a promising solution for language-guided robot navigation on edge devices.
arxiv情報
著者 | Yuxuan Chen,Yixin Han,Xiao Li |
発行日 | 2024-11-20 12:28:13+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google