One-shot recognition of any material anywhere using contrastive learning with physics-based rendering

要約

MatSim を紹介します: 合成データセット、ベンチマーク、およびコンピューター ビジョン ベースのマテリアルとテクスチャ間の類似性と遷移の認識方法であり、1 つまたはいくつかの例を使用して任意の条件下で任意のマテリアルを識別することに焦点を当てています (ワンショット学習)。
調理中の食品の検査から、農業、化学、工業製品の検査まで、材料の視覚認識は不可欠です。
この作業では、コンピューター グラフィックス アーティストが使用する巨大なリポジトリを利用して、マテリアルの類似性のために新しい CGI データセットを生成します。
ビジュアル マテリアル シミュレーションに物理ベース レンダリング (PBR) リポジトリを使用し、これらのマテリアルにランダムな 3D オブジェクトを割り当て、さまざまな背景と照明条件 (HDRI) で画像をレンダリングします。
材料間の段階的な移行を追加して、状態間のスムーズな移行 (段階的に調理された食品など) でアプリケーションをサポートします。
また、飲料や化学実験室での使用例をサポートするために、透明な容器内の材料をレンダリングします。
次に、対照学習ネットワークをトレーニングして、1 つの画像を使用してなじみのない素材を識別する記述子を生成します。
また、化学反応の状態、腐った/新鮮な果物、食品の状態、さまざまな種類の建設資材、地面の種類など、さまざまな実世界の例を含む少数ショットの材料認識の新しいベンチマークも提示します。
、および物質状態、遷移、およびサブクラスを含む他の多くのユースケース。
MatSim 合成データセットでトレーニングされたネットワークは、トレーニング中に見られなかったマテリアル クラスでテストされているにもかかわらず、ベンチマークで Clip のような最先端のモデルよりも優れていることを示しています。
データセット、ベンチマーク、コード、トレーニング済みモデルはオンラインで入手できます。

要約(オリジナル)

We present MatSim: a synthetic dataset, a benchmark, and a method for computer vision based recognition of similarities and transitions between materials and textures, focusing on identifying any material under any conditions using one or a few examples (one-shot learning). The visual recognition of materials is essential to everything from examining food while cooking to inspecting agriculture, chemistry, and industrial products. In this work, we utilize giant repositories used by computer graphics artists to generate a new CGI dataset for material similarity. We use physics-based rendering (PBR) repositories for visual material simulation, assign these materials random 3D objects, and render images with a vast range of backgrounds and illumination conditions (HDRI). We add a gradual transition between materials to support applications with a smooth transition between states (like gradually cooked food). We also render materials inside transparent containers to support beverage and chemistry lab use cases. We then train a contrastive learning network to generate a descriptor that identifies unfamiliar materials using a single image. We also present a new benchmark for a few-shot material recognition that contains a wide range of real-world examples, including the state of a chemical reaction, rotten/fresh fruits, states of food, different types of construction materials, types of ground, and many other use cases involving material states, transitions and subclasses. We show that a network trained on the MatSim synthetic dataset outperforms state-of-the-art models like Clip on the benchmark, despite being tested on material classes that were not seen during training. The dataset, benchmark, code and trained models are available online.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google