SCOUT: A Situated and Multi-Modal Human-Robot Dialogue Corpus

要約

我々は、協調探索のタスク領域における人間とロボットの対話のマルチモーダルなコレクションである、トランザクション理解状況コーパス (SCOUT) を紹介します。
このコーパスは、人間の参加者が遠隔地にあるロボットに口頭で指示を出し、移動して周囲の情報を収集するという複数のオズの魔法使の実験から構築されました。
SCOUT には、278 の対話からの 89,056 の発話と 310,095 語が含まれており、対話ごとに平均 320 の発話が含まれます。
対話は、実験中に利用可能なマルチモーダル データ ストリーム (5,785 枚の画像と 30 枚の地図) と連携しています。
このコーパスには、発話内の話者の意図と意味を識別するための抽象意味表現と対話 AMR の注釈が付けられており、発話間の関係を追跡して対話構造のパターンを明らかにするためのトランザクション単位と関係が注釈付けされています。
私たちは、コーパスとその注釈が、自律的な人間とロボットのシステムを開発し、人間がロボットにどのように話すかという未解決の問題の研究を可能にするためにどのように使用されてきたかを説明します。
私たちは、特に環境に関する詳細を発見する必要があるナビゲーション タスクのコンテキストにおいて、自律的で定位置にある人間とロボットの対話の進歩を加速するために、このコーパスをリリースしました。

要約(オリジナル)

We introduce the Situated Corpus Of Understanding Transactions (SCOUT), a multi-modal collection of human-robot dialogue in the task domain of collaborative exploration. The corpus was constructed from multiple Wizard-of-Oz experiments where human participants gave verbal instructions to a remotely-located robot to move and gather information about its surroundings. SCOUT contains 89,056 utterances and 310,095 words from 278 dialogues averaging 320 utterances per dialogue. The dialogues are aligned with the multi-modal data streams available during the experiments: 5,785 images and 30 maps. The corpus has been annotated with Abstract Meaning Representation and Dialogue-AMR to identify the speaker’s intent and meaning within an utterance, and with Transactional Units and Relations to track relationships between utterances to reveal patterns of the Dialogue Structure. We describe how the corpus and its annotations have been used to develop autonomous human-robot systems and enable research in open questions of how humans speak to robots. We release this corpus to accelerate progress in autonomous, situated, human-robot dialogue, especially in the context of navigation tasks where details about the environment need to be discovered.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google