Diversity in deep generative models and generative AI

要約

敵対的生成ネットワーク (GAN)、変分自動エンコーダー (VAE)、トランスフォーマーなどのデコーダーベースの機械学習生成アルゴリズムは、トレーニング アンサンブル内のオブジェクトと同様のオブジェクトを構築するときに優れた結果を示します。
ただし、新しいオブジェクトの生成は、主にトレーニング データセットの隠れた構造の理解と、それに続く多次元の正規変数からのサンプリングに基づいて構築されます。
特に、各サンプルは他のサンプルから独立しており、同じタイプのオブジェクトを繰り返し提案できます。
この欠点を解決するために、カーネルベースのメジャー量子化手法を導入します。このメソッドは、指定されたターゲット メジャーを全体として近似し、その分布からすでに抽出されている要素から遠ざけることによって、そのターゲット メジャーから新しいオブジェクトを生成できます。
これにより、生成されるオブジェクトの多様性が確実に高まります。
このメソッドは、古典的な機械学習ベンチマークでテストされています。

要約(オリジナル)

The decoder-based machine learning generative algorithms such as Generative Adversarial Networks (GAN), Variational Auto-Encoders (VAE), Transformers show impressive results when constructing objects similar to those in a training ensemble. However, the generation of new objects builds mainly on the understanding of the hidden structure of the training dataset followed by a sampling from a multi-dimensional normal variable. In particular each sample is independent from the others and can repeatedly propose same type of objects. To cure this drawback we introduce a kernel-based measure quantization method that can produce new objects from a given target measure by approximating it as a whole and even staying away from elements already drawn from that distribution. This ensures a better diversity of the produced objects. The method is tested on classic machine learning benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google