Fluid: Scaling Autoregressive Text-to-image Generative Models with Continuous Tokens

要約

ビジョンにおける自己回帰モデルをスケールアップすることは、大規模な言語モデルほど有益であるとは証明されていません。
この研究では、テキストから画像への生成のコンテキストでこのスケーリングの問題を調査します。その際、モデルが離散トークンを使用するか連続トークンを使用するかという 2 つの重要な要素に焦点を当てます。もう 1 つは、トークンが BERT を使用してランダムまたは固定ラスター順序で生成されるかどうかです。
GPT のようなトランスフォーマー アーキテクチャ。
私たちの経験的結果は、すべてのモデルが検証損失の点で効果的にスケールする一方で、その評価パフォーマンス (FID、GenEval スコア、ビジュアル品質によって測定される) は異なる傾向に従っていることを示しています。
連続トークンに基づくモデルは、離散トークンを使用するモデルよりも大幅に優れた視覚的品質を実現します。
さらに、生成順序とアテンション メカニズムは GenEval スコアに大きく影響します。ランダム順序モデルは、ラスター順序モデルと比較して顕著に優れた GenEval スコアを達成します。
これらの発見に触発されて、私たちは連続トークンに対するランダム順序の自己回帰モデルである Fluid をトレーニングしました。
Fluid 10.5B モデルは、MS-COCO 30K で 6.16 という新しい最先端のゼロショット FID、GenEval ベンチマークで 0.69 の総合スコアを達成しました。
私たちの発見と結果が、視覚モデルと言語モデルの間のスケーリングギャップをさらに埋めるための今後の取り組みを促進することを願っています。

要約(オリジナル)

Scaling up autoregressive models in vision has not proven as beneficial as in large language models. In this work, we investigate this scaling problem in the context of text-to-image generation, focusing on two critical factors: whether models use discrete or continuous tokens, and whether tokens are generated in a random or fixed raster order using BERT- or GPT-like transformer architectures. Our empirical results show that, while all models scale effectively in terms of validation loss, their evaluation performance — measured by FID, GenEval score, and visual quality — follows different trends. Models based on continuous tokens achieve significantly better visual quality than those using discrete tokens. Furthermore, the generation order and attention mechanisms significantly affect the GenEval score: random-order models achieve notably better GenEval scores compared to raster-order models. Inspired by these findings, we train Fluid, a random-order autoregressive model on continuous tokens. Fluid 10.5B model achieves a new state-of-the-art zero-shot FID of 6.16 on MS-COCO 30K, and 0.69 overall score on the GenEval benchmark. We hope our findings and results will encourage future efforts to further bridge the scaling gap between vision and language models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google