SAM 2: Segment Anything in Images and Videos

要約

私たちは、画像やビデオの視覚的なセグメンテーションを迅速に解決するための基礎モデルである Segment Anything Model 2 (SAM 2) を紹介します。
私たちは、ユーザー インタラクションを通じてモデルとデータを改善するデータ エンジンを構築し、これまでで最大のビデオ セグメンテーション データセットを収集します。
私たちのモデルは、リアルタイム ビデオ処理用のストリーミング メモリを備えたシンプルなトランスフォーマー アーキテクチャです。
当社のデータに基づいてトレーニングされた SAM 2 は、幅広いタスクにわたって強力なパフォーマンスを提供します。
ビデオ セグメンテーションでは、以前のアプローチに比べて 3 分の 1 のインタラクションを使用することで、より高い精度が観察されました。
画像セグメンテーションでは、私たちのモデルは Segment Anything Model (SAM) よりも正確で 6 倍高速です。
私たちは、私たちのデータ、モデル、洞察がビデオセグメンテーションと関連する認識タスクの重要なマイルストーンとして役立つと信じています。
私たちはメインモデル、データセットに加えて、モデルトレーニングとデモ用のコードをリリースしています。

要約(オリジナル)

We present Segment Anything Model 2 (SAM 2), a foundation model towards solving promptable visual segmentation in images and videos. We build a data engine, which improves model and data via user interaction, to collect the largest video segmentation dataset to date. Our model is a simple transformer architecture with streaming memory for real-time video processing. SAM 2 trained on our data provides strong performance across a wide range of tasks. In video segmentation, we observe better accuracy, using 3x fewer interactions than prior approaches. In image segmentation, our model is more accurate and 6x faster than the Segment Anything Model (SAM). We believe that our data, model, and insights will serve as a significant milestone for video segmentation and related perception tasks. We are releasing our main model, dataset, as well as code for model training and our demo.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google