Sampling is Matter: Point-guided 3D Human Mesh Reconstruction

要約

タイトル：Sampling is Matter: Point-guided 3D Human Mesh Reconstruction
要約：
– RGB画像から3Dヒューマンメッシュ再構成を行うための、シンプルでありながら強力な手法が提案された。
– transformerで全体のメッシュ頂点間の非局所的相互作用が有効に推定されており、グラフモデルを介してボディパーツの関係性も扱われるようになった。しかし、2D入力画像から符号化された特徴と各頂点の3D座標の関係を直接把握することはまだ困難であった。
– そこで、簡単な特徴サンプリング方式を提案し、埋め込み空間でガイドポイントに従って特徴をサンプリングすることで、2D空間で頂点に関連する特徴により集中し、自然なヒューマンポーズの再構成を実現する。
– また、進行的な注意マスキングを適用することで、重度の遮蔽下でも頂点間の局所的相互作用を正確に推定できるようになる。
– ベンチマークデータセット上での実験結果から、提案手法は3Dヒューマンメッシュ再構成の性能を効率的に向上させることができると示された。また、コードとモデルはhttps://github.com/DCVL-3D/PointHMR_releaseで公開されている。

要約(オリジナル)

This paper presents a simple yet powerful method for 3D human mesh reconstruction from a single RGB image. Most recently, the non-local interactions of the whole mesh vertices have been effectively estimated in the transformer while the relationship between body parts also has begun to be handled via the graph model. Even though those approaches have shown the remarkable progress in 3D human mesh reconstruction, it is still difficult to directly infer the relationship between features, which are encoded from the 2D input image, and 3D coordinates of each vertex. To resolve this problem, we propose to design a simple feature sampling scheme. The key idea is to sample features in the embedded space by following the guide of points, which are estimated as projection results of 3D mesh vertices (i.e., ground truth). This helps the model to concentrate more on vertex-relevant features in the 2D space, thus leading to the reconstruction of the natural human pose. Furthermore, we apply progressive attention masking to precisely estimate local interactions between vertices even under severe occlusions. Experimental results on benchmark datasets show that the proposed method efficiently improves the performance of 3D human mesh reconstruction. The code and model are publicly available at: https://github.com/DCVL-3D/PointHMR_release.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI