Integrating Large Language Models with Multimodal Virtual Reality Interfaces to Support Collaborative Human-Robot Construction Work

要約

作業環境が複雑で構造化されておらず、危険なことも多い建設業界では、人間とロボットのコラボレーション（HRC）の導入が有望な進歩として浮上している。このことは、建設作業員がロボットアシスタントとシームレスに協働することを可能にする直感的なコミュニケーションインターフェースの重要な必要性を強調している。本研究では、建設作業員とロボット間の直感的なコミュニケーションを強化するために、マルチモーダルなインタラクションを統合した会話型バーチャルリアリティ（VR）インタフェースを紹介する。音声およびコントローラ入力をロボットオペレーティングシステム（ROS）、ビルディングインフォメーションモデリング（BIM）、および大規模言語モデル（LLM）を用いたチャットインターフェースを特徴とするゲームエンジンと統合することにより、提案システムはVR環境内での直感的で正確なインタラクションを可能にする。12人の建設作業員による乾式壁施工のケーススタディを通じて評価した結果、提案システムは作業負荷が低く、簡潔なコマンド入力による高いユーザビリティを実証した。提案したマルチモーダルインタラクションシステムは、このような技術統合により、建設産業におけるロボットアシスタントの統合を大幅に前進させることができることを示唆している。

要約(オリジナル)

In the construction industry, where work environments are complex, unstructured and often dangerous, the implementation of Human-Robot Collaboration (HRC) is emerging as a promising advancement. This underlines the critical need for intuitive communication interfaces that enable construction workers to collaborate seamlessly with robotic assistants. This study introduces a conversational Virtual Reality (VR) interface integrating multimodal interaction to enhance intuitive communication between construction workers and robots. By integrating voice and controller inputs with the Robot Operating System (ROS), Building Information Modeling (BIM), and a game engine featuring a chat interface powered by a Large Language Model (LLM), the proposed system enables intuitive and precise interaction within a VR setting. Evaluated by twelve construction workers through a drywall installation case study, the proposed system demonstrated its low workload and high usability with succinct command inputs. The proposed multimodal interaction system suggests that such technological integration can substantially advance the integration of robotic assistants in the construction industry.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL