要約
大規模言語モデル (LLM) を自動運転に統合すると、オープンワールドのシナリオでのパーソナライゼーションと適応性が強化されます。
しかし、従来のエッジ コンピューティング モデルは、特にリアルタイム パフォーマンスとシステム効率に関して、複雑な運転データの処理において依然として大きな課題に直面しています。
これらの課題に対処するために、この研究では、データ ドリフト検出機能を備えた新しいエッジクラウド協調自動運転システムである EC-Drive を紹介します。
EC-Drive は、ドリフト検出アルゴリズムを利用して、新しい障害物や交通パターンの変化などの重要なデータを選択的にクラウドにアップロードし、GPT-4 で処理します。一方、日常的なデータはエッジ デバイス上の小規模な LLM によって効率的に管理されます。
このアプローチは、推論遅延を短縮するだけでなく、通信リソースの使用を最適化することでシステム効率も向上します。
実験による検証により、システムの堅牢な処理能力と実際の運転条件での実用的な適用性が確認され、このエッジとクラウドのコラボレーション フレームワークの有効性が実証されました。
データとシステムのデモは https://sites.google.com/view/ec-drive で公開されます。
要約(オリジナル)
Integrating large language models (LLMs) into autonomous driving enhances personalization and adaptability in open-world scenarios. However, traditional edge computing models still face significant challenges in processing complex driving data, particularly regarding real-time performance and system efficiency. To address these challenges, this study introduces EC-Drive, a novel edge-cloud collaborative autonomous driving system with data drift detection capabilities. EC-Drive utilizes drift detection algorithms to selectively upload critical data, including new obstacles and traffic pattern changes, to the cloud for processing by GPT-4, while routine data is efficiently managed by smaller LLMs on edge devices. This approach not only reduces inference latency but also improves system efficiency by optimizing communication resource use. Experimental validation confirms the system’s robust processing capabilities and practical applicability in real-world driving conditions, demonstrating the effectiveness of this edge-cloud collaboration framework. Our data and system demonstration will be released at https://sites.google.com/view/ec-drive.
arxiv情報
著者 | Jiao Chen,Suyan Dai,Fangfang Chen,Zuohong Lv,Jianhua Tang |
発行日 | 2024-08-19 13:19:15+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google