Catch Me If You Hear Me: Audio-Visual Navigation in Complex Unmapped Environments with Moving Sounds

要約

オーディオビジュアルナビゲーションは、視覚と聴覚を組み合わせて、地図に載っていない環境において音を発する音源までナビゲートするものである。最近のアプローチでは、音声入力がゴールを検出し見つけるのに有効であることが示されているが、それらはきれいで静的な音源に焦点を当て、聞こえない音への一般化に苦労している。このベンチマークは、ノイズや気が散る音が存在する環境において、移動する音源をキャッチする必要があり、様々な新しい課題を提起するものである。我々は、このような複雑な設定に対して頑健なナビゲーションポリシーを学習する強化学習アプローチを導入する。これを実現するために、我々は空間特徴空間においてオーディオビジュアル情報を融合し、局所地図と音声信号の両方に内在する幾何学的情報の相関を学習するアーキテクチャを提案する。我々は、Matterport3DとReplicaという2つの困難な3Dスキャンされた実環境において、移動音、未聴音、雑音環境という全てのタスクにおいて、我々のアプローチが現在の最先端技術を常に大きなマージンで上回ることを実証している。ベンチマークは http://dav-nav.cs.uni-freiburg.de で公開されている。

要約(オリジナル)

Audio-visual navigation combines sight and hearing to navigate to a sound-emitting source in an unmapped environment. While recent approaches have demonstrated the benefits of audio input to detect and find the goal, they focus on clean and static sound sources and struggle to generalize to unheard sounds. In this work, we propose the novel dynamic audio-visual navigation benchmark which requires catching a moving sound source in an environment with noisy and distracting sounds, posing a range of new challenges. We introduce a reinforcement learning approach that learns a robust navigation policy for these complex settings. To achieve this, we propose an architecture that fuses audio-visual information in the spatial feature space to learn correlations of geometric information inherent in both local maps and audio signals. We demonstrate that our approach consistently outperforms the current state-of-the-art by a large margin across all tasks of moving sounds, unheard sounds, and noisy environments, on two challenging 3D scanned real-world environments, namely Matterport3D and Replica. The benchmark is available at http://dav-nav.cs.uni-freiburg.de.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL