Automatic Controllable Colorization via Imagination

要約

私たちは、反復的な編集と変更を可能にする自動カラー化のフレームワークを提案します。
私たちのフレームワークの中核は想像力モジュールにあります。グレースケール画像内のコンテンツを理解することで、事前トレーニングされた画像生成モデルを利用して、同じコンテンツを含む複数の画像を生成します。
これらの画像は、人間の専門家のプロセスを模倣して、色付けの参考として機能します。
合成された画像は不完全であるか、元のグレースケール画像とは異なる可能性があるため、最適な参照構成を選択するための参照調整モジュールを提案します。
以前のほとんどのエンドツーエンドの自動カラー化アルゴリズムとは異なり、私たちのフレームワークでは、カラーリング サンプルを明示的にモデル化しているため、カラー化結果の反復的かつ局所的な変更が可能です。
広範な実験により、編集性と柔軟性において既存の自動カラー化アルゴリズムよりも当社のフレームワークが優れていることが実証されました。
プロジェクトページ: https://xy-cong.github.io/imagine-colorization。

要約(オリジナル)

We propose a framework for automatic colorization that allows for iterative editing and modifications. The core of our framework lies in an imagination module: by understanding the content within a grayscale image, we utilize a pre-trained image generation model to generate multiple images that contain the same content. These images serve as references for coloring, mimicking the process of human experts. As the synthesized images can be imperfect or different from the original grayscale image, we propose a Reference Refinement Module to select the optimal reference composition. Unlike most previous end-to-end automatic colorization algorithms, our framework allows for iterative and localized modifications of the colorization results because we explicitly model the coloring samples. Extensive experiments demonstrate the superiority of our framework over existing automatic colorization algorithms in editability and flexibility. Project page: https://xy-cong.github.io/imagine-colorization.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google