Collaborative Neural Rendering using Anime Character Sheets

要約

アニメ制作において、思い通りのポーズでキャラクターを描くことは、欠かすことのできない大変な作業です。
このホワイト ペーパーでは、いくつかの参照画像 (AKA Character Sheets) から指定されたポーズの新しい画像を作成する Collaborative Neural Rendering (CoNR) メソッドを紹介します。
一般に、アニメ キャラクターの体型は非常に多様であるため、実世界の人間から開発された SMPL のような普遍的な体型モデルを採用することはできません。
この問題を克服するために、CoNR はコンパクトで取得しやすいランドマーク エンコーディングを使用して、パイプラインで統合された UV マッピングを作成しないようにします。
さらに、慎重に設計されたニューラル ネットワークの特徴空間クロスビュー ワーピングのおかげで、複数の参照画像を参照するときに CoNR のパフォーマンスを大幅に向上させることができます。
さらに、この分野の研究を容易にするために、さまざまなポーズの 700,000 以上の手描きおよび合成画像を含むキャラクター シート データセットを収集しました。
私たちのコードとデモは、https://github.com/megvii-research/CoNR で入手できます。

要約(オリジナル)

Drawing images of characters with desired poses is an essential but laborious task in anime production. In this paper, we present the Collaborative Neural Rendering (CoNR) method, which creates new images for specified poses from a few reference images (AKA Character Sheets). In general, the high diversity of body shapes of anime characters defies the employment of universal body models like SMPL, which are developed from real-world humans. To overcome this difficulty, CoNR uses a compact and easy-to-obtain landmark encoding to avoid creating a unified UV mapping in the pipeline. In addition, the performance of CoNR can be significantly improved when referring to multiple reference images, thanks to feature space cross-view warping in a carefully designed neural network. Moreover, we have collected a character sheet dataset containing over 700,000 hand-drawn and synthesized images of diverse poses to facilitate research in this area. Our code and demo are available at https://github.com/megvii-research/CoNR.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google