Exploration into Translation-Equivariant Image Quantization

要約

これは、現在の画像の量子化 (ベクトル量子化) が、エイリアシングのために量子化された空間で平行移動の等分散を満たさないことを発見する探索的研究です。
アンチエイリアシングに焦点を当てる代わりに、コードブックの埋め込み間で直交性を強制することにより、並進等価画像量子化を達成するためのシンプルで効果的な方法を提案します。
翻訳等価画像量子化の利点を調べるために、慎重に制御されたデータセットを使用して 3 つの概念実証実験を行います。
量子化された画像インデックスが条件として与えられる画像からテキストへの生成、(3) サンプル効率を分析するためのより小さなトレーニング セットの使用。
厳密に制御された実験から、並進等価画像量子化器がサンプル効率だけでなく、テキストから画像への生成で最大 +11.9%、画像からテキストへの生成で +3.9% まで VQGAN よりも精度を向上させることを経験的に検証します。
.

要約(オリジナル)

This is an exploratory study that discovers the current image quantization (vector quantization) do not satisfy translation equivariance in the quantized space due to aliasing. Instead of focusing on anti-aliasing, we propose a simple yet effective way to achieve translation-equivariant image quantization by enforcing orthogonality among the codebook embeddings. To explore the advantages of translation-equivariant image quantization, we conduct three proof-of-concept experiments with a carefully controlled dataset: (1) text-to-image generation, where the quantized image indices are the target to predict, (2) image-to-text generation, where the quantized image indices are given as a condition, (3) using a smaller training set to analyze sample efficiency. From the strictly controlled experiments, we empirically verify that the translation-equivariant image quantizer improves not only sample efficiency but also the accuracy over VQGAN up to +11.9% in text-to-image generation and +3.9% in image-to-text generation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google