Generative Modeling of Discrete Joint Distributions by E-Geodesic Flow Matching on Assignment Manifolds

要約

この論文では、離散測定の因数分解の部分多様体上の連続正規化フローに基づく離散分布の新しい生成モデルを紹介します。
フローの統合により、カテゴリが徐々に割り当てられ、丸めやサンプルの切り捨てなどの潜在連続モデルの離散化の問題が回避されます。構造化された離散データの複雑な統計的依存関係を表すことができる一般的な非因数分解離散分布は、部分多様体を部分多様体に埋め込むことで近似できます。
すべての結合離散分布とデータ駆動型平均のメタシンプレックス。
生成モデルの効率的なトレーニングは、離散分布を因数分解する測地線のフローを照合することによって実証されます。
さまざまな実験により、このアプローチの幅広い適用可能性が強調されています。

要約(オリジナル)

This paper introduces a novel generative model for discrete distributions based on continuous normalizing flows on the submanifold of factorizing discrete measures. Integration of the flow gradually assigns categories and avoids issues of discretizing the latent continuous model like rounding, sample truncation etc. General non-factorizing discrete distributions capable of representing complex statistical dependencies of structured discrete data, can be approximated by embedding the submanifold into a the meta-simplex of all joint discrete distributions and data-driven averaging. Efficient training of the generative model is demonstrated by matching the flow of geodesics of factorizing discrete distributions. Various experiments underline the approach’s broad applicability.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google