ManiFlow: Implicitly Representing Manifolds with Normalizing Flows

要約

正規化フロー (NF) は、複雑な実世界のデータ分布を正確にモデル化することが示されている柔軟な明示的生成モデルです。
ただし、それらの可逆性制約により、高次元空間に埋め込まれた低次元多様体に存在するデータ分布に制限が課されます。
実際には、この欠点は、生成されたサンプルの品質に影響を与えるデータにノイズを追加することによって回避されることがよくあります。
以前の研究とは対照的に、摂動分布とノイズモデルに関する完全な知識が与えられた元のデータ分布からサンプルを生成することにより、この問題に取り組みます。
この目的のために、摂動データでトレーニングされた NF が暗黙的に最尤領域の多様体を表すことを確立します。
次に、摂動分布からサンプルを与えられた多様体上の最も可能性の高い点を回復する最適化目標を提案します。
最後に、NF の明示的な性質、つまり、対数尤度の勾配と対数尤度自体から抽出された表面法線を利用して、生成されたポイント セットを改良するためにポアソン表面再構成を適用する 3D ポイント クラウドに焦点を当てます。

要約(オリジナル)

Normalizing Flows (NFs) are flexible explicit generative models that have been shown to accurately model complex real-world data distributions. However, their invertibility constraint imposes limitations on data distributions that reside on lower dimensional manifolds embedded in higher dimensional space. Practically, this shortcoming is often bypassed by adding noise to the data which impacts the quality of the generated samples. In contrast to prior work, we approach this problem by generating samples from the original data distribution given full knowledge about the perturbed distribution and the noise model. To this end, we establish that NFs trained on perturbed data implicitly represent the manifold in regions of maximum likelihood. Then, we propose an optimization objective that recovers the most likely point on the manifold given a sample from the perturbed distribution. Finally, we focus on 3D point clouds for which we utilize the explicit nature of NFs, i.e. surface normals extracted from the gradient of the log-likelihood and the log-likelihood itself, to apply Poisson surface reconstruction to refine generated point sets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google