Estimating Image Depth in the Comics Domain

要約

コミック画像の深度を推定することは、そのような画像が a) 単眼であるため困難です。
b) グラウンド トゥルースの深度注釈がない。
c) 異なる芸術スタイル間で異なる。
d) まばらでノイズが多い。
したがって、既製の教師なし画像から画像への変換方法を使用してコミック画像を自然な画像に変換し、次に注意誘導単眼深度推定器を使用して深度を予測します。
これにより、既存の自然画像の深度注釈を活用して、深度推定器をトレーニングできます。
さらに、私たちのモデルは、コミック パネル内のテキストと画像を区別することを学習して、深度推定におけるテキストベースのアーティファクトを減らします。
私たちの方法は、DCM と eBDtheque の両方の画像のすべてのメトリックにわたって、既存の最先端のアプローチよりも一貫して優れています。
最後に、コミックの深度予測を評価するためのデータセットを紹介します。
私たちのプロジェクトのウェブサイトは、https://github.com/IVRL/ComicsDepth からアクセスできます。

要約(オリジナル)

Estimating the depth of comics images is challenging as such images a) are monocular; b) lack ground-truth depth annotations; c) differ across different artistic styles; d) are sparse and noisy. We thus, use an off-the-shelf unsupervised image to image translation method to translate the comics images to natural ones and then use an attention-guided monocular depth estimator to predict their depth. This lets us leverage the depth annotations of existing natural images to train the depth estimator. Furthermore, our model learns to distinguish between text and images in the comics panels to reduce text-based artefacts in the depth estimates. Our method consistently outperforms the existing state-ofthe-art approaches across all metrics on both the DCM and eBDtheque images. Finally, we introduce a dataset to evaluate depth prediction on comics. Our project website can be accessed at https://github.com/IVRL/ComicsDepth.

arxiv情報

著者 Deblina Bhattacharjee,Martin Everaert,Mathieu Salzmann,Sabine Süsstrunk
発行日 2022-08-15 14:05:17+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CV パーマリンク