Improving Variational Autoencoder Estimation from Incomplete Data with Mixture Variational Families

要約

トレーニング データが不完全な場合に変分オートエンコーダー (VAE) を推定するタスクを検討します。
データが欠損していると、完全に観測された場合と比較して、潜在変数にわたるモデルの事後分布の複雑さが増加することを示します。
複雑さの増加は、変分分布とモデルの事後分布の間の不一致により、モデルの適合に悪影響を与える可能性があります。
事後複雑さの増加に対処するために、(i) 有限変分混合分布と (ii) 代入ベースの変分混合分布に基づく 2 つの戦略を導入します。
提案されたアプローチの包括的な評価を通じて、変分混合が不完全なデータからの VAE 推定の精度を向上させるのに効果的であることを示します。

要約(オリジナル)

We consider the task of estimating variational autoencoders (VAEs) when the training data is incomplete. We show that missing data increases the complexity of the model’s posterior distribution over the latent variables compared to the fully-observed case. The increased complexity may adversely affect the fit of the model due to a mismatch between the variational and model posterior distributions. We introduce two strategies based on (i) finite variational-mixture and (ii) imputation-based variational-mixture distributions to address the increased posterior complexity. Through a comprehensive evaluation of the proposed approaches, we show that variational mixtures are effective at improving the accuracy of VAE estimation from incomplete data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google