Inversion of Bayesian Networks

要約

変分オートエンコーダとヘルムホルツ マシンは、認識ネットワーク (エンコーダ) を使用して、生成モデル (デコーダ) の事後分布を近似します。
この論文では、真の事後分布を正確にモデル化できるように、認識ネットワークの必要かつ十分な特性を研究します。
これらの結果は、ネットワークが一連の条件付き独立性ステートメントを表す確率的グラフィカル モデリング/ベイジアン ネットワークの一般的なコンテキストで導出されます。
d 分離に関するグローバル条件と、認識ネットワークが望ましい品質を持つためのローカル条件の両方を導き出します。
ローカル条件では、プロパティの完全性 (すべてのノードで、すべての親が結合される) が重要な役割を果たすことがわかります。

要約(オリジナル)

Variational autoencoders and Helmholtz machines use a recognition network (encoder) to approximate the posterior distribution of a generative model (decoder). In this paper we study the necessary and sufficient properties of a recognition network so that it can model the true posterior distribution exactly. These results are derived in the general context of probabilistic graphical modelling / Bayesian networks, for which the network represents a set of conditional independence statements. We derive both global conditions, in terms of d-separation, and local conditions for the recognition network to have the desired qualities. It turns out that for the local conditions the property perfectness (for every node, all parents are joined) plays an important role.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google