SAM2Point: Segment Any 3D as Videos in Zero-shot and Promptable Manners

要約

ゼロショットで迅速な 3D セグメンテーションにセグメント エニシング モデル 2 (SAM 2) を適応させた予備調査である SAM2Point を紹介します。
SAM2Point は、あらゆる 3D データを一連の多方向ビデオとして解釈し、さらなるトレーニングや 2D-3D 投影を行わずに、3D 空間のセグメンテーションに SAM 2 を活用します。
当社のフレームワークは、3D ポイント、ボックス、マスクなどのさまざまなプロンプト タイプをサポートし、3D オブジェクト、屋内シーン、屋外環境、生のまばらな LiDAR などのさまざまなシナリオにわたって一般化できます。
Objaverse、S3DIS、ScanNet、Semantic3D、KITTI などの複数の 3D データセットに関するデモンストレーションは、SAM2Point の堅牢な一般化機能を強調しています。
私たちの知る限り、私たちは 3D での SAM の最も忠実な実装を提示します。これは、プロンプトな 3D セグメンテーションにおける将来の研究の出発点として役立つ可能性があります。
オンライン デモ: https://huggingface.co/spaces/ZiyuG/SAM2Point 。
コード: https://github.com/ZiyuGuo99/SAM2Point 。

要約(オリジナル)

We introduce SAM2Point, a preliminary exploration adapting Segment Anything Model 2 (SAM 2) for zero-shot and promptable 3D segmentation. SAM2Point interprets any 3D data as a series of multi-directional videos, and leverages SAM 2 for 3D-space segmentation, without further training or 2D-3D projection. Our framework supports various prompt types, including 3D points, boxes, and masks, and can generalize across diverse scenarios, such as 3D objects, indoor scenes, outdoor environments, and raw sparse LiDAR. Demonstrations on multiple 3D datasets, e.g., Objaverse, S3DIS, ScanNet, Semantic3D, and KITTI, highlight the robust generalization capabilities of SAM2Point. To our best knowledge, we present the most faithful implementation of SAM in 3D, which may serve as a starting point for future research in promptable 3D segmentation. Online Demo: https://huggingface.co/spaces/ZiyuG/SAM2Point . Code: https://github.com/ZiyuGuo99/SAM2Point .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google