Online Knowledge Integration for 3D Semantic Mapping: A Survey

要約

セマンティック マッピングは、構造化された環境内で動作し、オブジェクトと対話するロボットの重要なコンポーネントです。
従来、意味マップ内の幾何学的表現と知識表現は、緩やかに統合されるだけでした。
しかし、ディープラーニングの最近の進歩により、ナレッジ グラフや言語概念として表される事前知識をセンサー データ処理やセマンティック マッピング パイプラインに完全に統合できるようになりました。
セマンティック シーン グラフと言語モデルにより、最新のセマンティック マッピング アプローチが可能になり、グラフベースの事前知識を組み込んだり、マッピング プロセス中およびマッピング プロセス後に人間の言語の豊富な情報を活用したりすることができます。
これにより、セマンティック マッピングが大幅に進歩し、以前は不可能だった新しいアプリケーションが実現しました。
この調査では、セマンティック マッピングへの知識のオンライン統合に焦点を当てて、これらの最近の開発を包括的にレビューします。
私たちは特に、暗黙の常識知識と自然言語概念をそれぞれ捕捉するための記号的な事前知識と言語モデルを統合するためのセマンティック シーン グラフを使用する方法に焦点を当てています。

要約(オリジナル)

Semantic mapping is a key component of robots operating in and interacting with objects in structured environments. Traditionally, geometric and knowledge representations within a semantic map have only been loosely integrated. However, recent advances in deep learning now allow full integration of prior knowledge, represented as knowledge graphs or language concepts, into sensor data processing and semantic mapping pipelines. Semantic scene graphs and language models enable modern semantic mapping approaches to incorporate graph-based prior knowledge or to leverage the rich information in human language both during and after the mapping process. This has sparked substantial advances in semantic mapping, leading to previously impossible novel applications. This survey reviews these recent developments comprehensively, with a focus on online integration of knowledge into semantic mapping. We specifically focus on methods using semantic scene graphs for integrating symbolic prior knowledge and language models for respective capture of implicit common-sense knowledge and natural language concepts

arxiv情報

提供元, 利用サービス

arxiv.jp, Google