Symplectic Generative Networks (SGNs): A Hamiltonian Framework for Invertible Deep Generative Modeling

要約

ハミルトニアンメカニクスを活用して潜在的なボリュームプレゼンティングマッピングを構築し、潜在的な空間とデータ空間の間のマッピングを構築する深い生成モデルであるシンプレクティック生成ネットワーク（SGN）を紹介します。
潜在空間をシンプレクティック構造で支えることにより、ハミルトニアンシステムの時間進化としてデータ生成をモデリングすることにより、SGNはヤコビの決定要因計算の計算オーバーヘッドを発生させることなく、正確な尤度評価を実現します。
この作業では、（i）可逆性と体積保存の完全な証明、（ii）変分自動エンコーダーと正常化フローとの正式な比較を伴う正式な複雑さ分析を含む包括的な理論的枠組みを通じて、SGNの厳密な数学的基盤を提供します。
マニホールド、および（v）適応統合保証を使用した広範な安定性分析。
これらの貢献は、SGNの基本的な利点を強調し、複雑で高次元のデータに対する将来の経験的調査と応用のための強固な基盤を確立します。

要約(オリジナル)

We introduce the Symplectic Generative Network (SGN), a deep generative model that leverages Hamiltonian mechanics to construct an invertible, volume-preserving mapping between a latent space and the data space. By endowing the latent space with a symplectic structure and modeling data generation as the time evolution of a Hamiltonian system, SGN achieves exact likelihood evaluation without incurring the computational overhead of Jacobian determinant calculations. In this work, we provide a rigorous mathematical foundation for SGNs through a comprehensive theoretical framework that includes: (i) complete proofs of invertibility and volume preservation, (ii) a formal complexity analysis with theoretical comparisons to Variational Autoencoders and Normalizing Flows, (iii) strengthened universal approximation results with quantitative error bounds, (iv) an information-theoretic analysis based on the geometry of statistical manifolds, and (v) an extensive stability analysis with adaptive integration guarantees. These contributions highlight the fundamental advantages of SGNs and establish a solid foundation for future empirical investigations and applications to complex, high-dimensional data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google