Conditional Sampling of Variational Autoencoders via Iterated Approximate Ancestral Sampling

要約

変分オートエンコーダ (VAE) の条件付きサンプリングは、欠損データの代入などのさまざまなアプリケーションで必要ですが、計算処理が困難です。
漸近的に正確な条件付きサンプリングの原則的な選択は、Metropolis-within-Gibbs (MWG) です。
ただし、一般的に望まれる特性である構造化された潜在空間を学習する VAE の傾向により、MWG サンプラーがターゲットの分布から遠く離れて「スタック」する可能性があることが観察されています。
この論文では、MWG の制限を緩和します。VAE のコンテキストにおける落とし穴を体系的に概説し、これらの落とし穴に対処する 2 つの独自の手法を提案し、一連のサンプリング タスクで提案された手法のパフォーマンスの向上を実証します。

要約(オリジナル)

Conditional sampling of variational autoencoders (VAEs) is needed in various applications, such as missing data imputation, but is computationally intractable. A principled choice for asymptotically exact conditional sampling is Metropolis-within-Gibbs (MWG). However, we observe that the tendency of VAEs to learn a structured latent space, a commonly desired property, can cause the MWG sampler to get ‘stuck’ far from the target distribution. This paper mitigates the limitations of MWG: we systematically outline the pitfalls in the context of VAEs, propose two original methods that address these pitfalls, and demonstrate an improved performance of the proposed methods on a set of sampling tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google