ThemeStation: Generating Theme-Aware 3D Assets from Few Exemplars

要約

実際のアプリケーションでは、多くの場合、一貫したテーマを共有する 3D アセットの大規模なギャラリーが必要になります。
テキストや画像からの 3D コンテンツ作成全般においては目覚ましい進歩が見られますが、入力 3D サンプルの共通のテーマに従ってカスタマイズされた 3D アセットを合成することは、未解決の困難な問題のままです。
この研究では、テーマを意識した 3D から 3D 生成のための新しいアプローチである ThemeStation を紹介します。
ThemeStation は、与えられたいくつかのサンプルに基づいてカスタマイズされた 3D アセットを合成します。その目標は 1) 与えられたサンプルとテーマ的に一致する 3D アセットを生成するための統一性、2) 高度なバリエーションを持つ 3D アセットを生成するための多様性です。
この目的を達成するために、最初にコンセプト イメージを描き、次にリファレンス情報に基づいた 3D モデリング段階を行う 2 段階のフレームワークを設計します。
入力サンプルと合成されたコンセプト イメージの両方からの事前分布を共同で利用するための、新しいデュアル スコア蒸留 (DSD) 損失を提案します。
広範な実験とユーザー調査により、ThemeStation が、さまざまなテーマに対応した 3D モデルを優れた品質で生成する点で、以前の作品を上回っていることが確認されています。
ThemeStation では、制御可能な 3D から 3D の生成などのさまざまなアプリケーションも可能になります。

要約(オリジナル)

Real-world applications often require a large gallery of 3D assets that share a consistent theme. While remarkable advances have been made in general 3D content creation from text or image, synthesizing customized 3D assets following the shared theme of input 3D exemplars remains an open and challenging problem. In this work, we present ThemeStation, a novel approach for theme-aware 3D-to-3D generation. ThemeStation synthesizes customized 3D assets based on given few exemplars with two goals: 1) unity for generating 3D assets that thematically align with the given exemplars and 2) diversity for generating 3D assets with a high degree of variations. To this end, we design a two-stage framework that draws a concept image first, followed by a reference-informed 3D modeling stage. We propose a novel dual score distillation (DSD) loss to jointly leverage priors from both the input exemplars and the synthesized concept image. Extensive experiments and user studies confirm that ThemeStation surpasses prior works in producing diverse theme-aware 3D models with impressive quality. ThemeStation also enables various applications such as controllable 3D-to-3D generation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google