DRAGON: A Dialogue-Based Robot for Assistive Navigation with Visual Language Grounding

要約

視覚障害者 (PwVI) は、周囲の空間を理解し、移動することが困難です。
現在のウェイファインディング技術は、ナビゲーションのみに焦点を当てているか、環境に関する限定的なコミュニケーションしか提供していません。
視覚言語のグラウンディングと意味論的ナビゲーションの最近の進歩を動機として、私たちは、対話システムと環境を自然言語と関連付ける能力を備えた誘導ロボットである DRAGON を提案します。
ユーザーからのコマンドを理解することで、DRAGON はユーザーを地図上の目的のランドマークに案内し、環境を説明し、視覚的な観察からの質問に答えることができます。
対話を効果的に利用することで、ロボットはユーザーの自由形式の説明を環境内のランドマークに基づいて基にし、話し言葉を通じてユーザーに意味情報を与えることができます。
私たちは、目隠しをした参加者を対象に、日常の屋内環境でユーザー調査を実施します。
私たちの結果は、DRAGON がユーザーとスムーズにコミュニケーションをとり、優れたガイド体験を提供し、直感的な方法でユーザーを周囲の環境と結び付けることができることを示しています。
ビデオとコードは https://sites.google.com/view/dragon-wayfinding/home で入手できます。

要約(オリジナル)

Persons with visual impairments (PwVI) have difficulties understanding and navigating spaces around them. Current wayfinding technologies either focus solely on navigation or provide limited communication about the environment. Motivated by recent advances in visual-language grounding and semantic navigation, we propose DRAGON, a guiding robot powered by a dialogue system and the ability to associate the environment with natural language. By understanding the commands from the user, DRAGON is able to guide the user to the desired landmarks on the map, describe the environment, and answer questions from visual observations. Through effective utilization of dialogue, the robot can ground the user’s free-form descriptions to landmarks in the environment, and give the user semantic information through spoken language. We conduct a user study with blindfolded participants in an everyday indoor environment. Our results demonstrate that DRAGON is able to communicate with the user smoothly, provide a good guiding experience, and connect users with their surrounding environment in an intuitive manner. Videos and code are available at https://sites.google.com/view/dragon-wayfinding/home.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google