Fractal Generative Models

要約

モジュール化は、コンピューターサイエンスの基礎であり、複雑な機能を原子ビルディングブロックに抽象化します。
この論文では、生成モデルを原子生成モジュールに抽象化することにより、新しいレベルのモジュール化を紹介します。
数学のフラクタルと同様に、私たちの方法は、原子生成モジュールを再帰的に呼び出すことにより、新しいタイプの生成モデルを構築し、フラクタル生成モデルと呼ばれる自己類似のフラクタルアーキテクチャをもたらします。
実行中の例として、AutoreGressionモデルをアトミック生成モジュールとして使用してフラクタルフレームワークをインスタンス化し、ピクセルごとの画像生成の挑戦的なタスクでそれを調べ、尤度の推定と生成の質の両方で強力なパフォーマンスを示します。
この作業が生成モデリングに新しいパラダイムを開き、将来の研究の肥沃な地位を提供できることを願っています。
コードはhttps://github.com/lth14/fractalgenで入手できます。

要約(オリジナル)

Modularization is a cornerstone of computer science, abstracting complex functions into atomic building blocks. In this paper, we introduce a new level of modularization by abstracting generative models into atomic generative modules. Analogous to fractals in mathematics, our method constructs a new type of generative model by recursively invoking atomic generative modules, resulting in self-similar fractal architectures that we call fractal generative models. As a running example, we instantiate our fractal framework using autoregressive models as the atomic generative modules and examine it on the challenging task of pixel-by-pixel image generation, demonstrating strong performance in both likelihood estimation and generation quality. We hope this work could open a new paradigm in generative modeling and provide a fertile ground for future research. Code is available at https://github.com/LTH14/fractalgen.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google