SteeredMarigold: Steering Diffusion Towards Depth Completion of Largely Incomplete Depth Maps

要約

実際の環境で展開されたRGB-Dセンサーによってキャプチャされた深度マップが、多くの場合、有効な深さ測定が欠けている大きな領域によって特徴付けられることがよくありますが、深さ完了方法の大部分は、シーンのすべての領域をカバーする深度値を想定しています。
この制限に対処するために、ほとんど不完全な深度マップであっても、メトリックの密な深さを生成できるトレーニングフリーのゼロショット深度完了方法であるSteeredmarigoldを導入します。
Steeredmarigoldは、利用可能なスパース深度ポイントを使用して、拡散確率モデルを除去する条件として使用することにより、これを達成します。
私たちの方法は、NYUV2データセットの関連する最高パフォーマンスの方法を上回り、広い領域に深さが提供されていないテストで、最先端のパフォーマンスを達成し、深度マップの不完全性に対して顕著な堅牢性を示します。
ソースコードは、https://steeredmarigold.github.ioで公開されています。

要約(オリジナル)

Even if the depth maps captured by RGB-D sensors deployed in real environments are often characterized by large areas missing valid depth measurements, the vast majority of depth completion methods still assumes depth values covering all areas of the scene. To address this limitation, we introduce SteeredMarigold, a training-free, zero-shot depth completion method capable of producing metric dense depth, even for largely incomplete depth maps. SteeredMarigold achieves this by using the available sparse depth points as conditions to steer a denoising diffusion probabilistic model. Our method outperforms relevant top-performing methods on the NYUv2 dataset, in tests where no depth was provided for a large area, achieving state-of-art performance and exhibiting remarkable robustness against depth map incompleteness. Our source code is publicly available at https://steeredmarigold.github.io.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google