Neural Surface Reconstruction of Dynamic Scenes with Monocular RGB-D Camera

要約

Neural-DynamicReconstruction (NDR) を提案します。これは、単眼 RGB-D カメラから動的シーンの忠実度の高いジオメトリとモーションを復元するためのテンプレートを使用しない方法です。
NDR では、キャプチャされた色と深度を十分に活用して表面と変形を共同で最適化できるように、表面の表現とレンダリングにニューラル暗黙関数を採用しています。
非剛体変形を表現および制約するために、任意の 2 つのフレーム間のサイクルの一貫性が自動的に満たされるように、新しいニューラル可逆変形ネットワークを提案します。
動的シーンの表面トポロジーが時間の経過とともに変化する可能性があることを考慮して、トポロジーを認識する戦略を採用して、融合フレームのトポロジー バリアント対応を構築します。
NDR はまた、グローバルな最適化方法でカメラのポーズをさらに調整します。
公開データセットと収集したデータセットに関する実験は、NDR が既存の単眼動的再構成法よりも優れていることを示しています。

要約(オリジナル)

We propose Neural-DynamicReconstruction (NDR), a template-free method to recover high-fidelity geometry and motions of a dynamic scene from a monocular RGB-D camera. In NDR, we adopt the neural implicit function for surface representation and rendering such that the captured color and depth can be fully utilized to jointly optimize the surface and deformations. To represent and constrain the non-rigid deformations, we propose a novel neural invertible deforming network such that the cycle consistency between arbitrary two frames is automatically satisfied. Considering that the surface topology of dynamic scene might change over time, we employ a topology-aware strategy to construct the topology-variant correspondence for the fused frames. NDR also further refines the camera poses in a global optimization manner. Experiments on public datasets and our collected dataset demonstrate that NDR outperforms existing monocular dynamic reconstruction methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google