Three Variations on Variational Autoencoders

要約

タイトル: バリアショナルオートエンコーダーの3つのバリエーション
要約:
– バリアショナルオートエンコーダー（VAE）は、既知のデータに基づいて推論を行うために設計された、生成的な確率的潜在変数モデルの一種である。
– 私たちは、2つ目のパラメータ化されたエンコーダー/デコーダーペアと、1つのバリエーションでは追加の固定エンコーダーを導入することで、VAEの3つのバリエーションを開発した。
– エンコーダー/デコーダーのパラメータはニューラルネットワークで学習される。固定エンコーダーは確率的PCAで得られる。
– これらのバリエーションは、オリジナルのVAEのEvidence Lower Bound（ELBO）の近似と比較される。
– 1つのバリエーションはEvidence Upper Bound（EUBO）を導くため、オリジナルのELBOと組み合わせてVAEの収束を調べるために使用できる。

要約(オリジナル)

Variational autoencoders (VAEs) are one class of generative probabilistic latent-variable models designed for inference based on known data. We develop three variations on VAEs by introducing a second parameterized encoder/decoder pair and, for one variation, an additional fixed encoder. The parameters of the encoders/decoders are to be learned with a neural network. The fixed encoder is obtained by probabilistic-PCA. The variations are compared to the Evidence Lower Bound (ELBO) approximation to the original VAE. One variation leads to an Evidence Upper Bound (EUBO) that can be used in conjunction with the original ELBO to interrogate the convergence of the VAE.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI