Poisson Flow Generative Models

要約

高次元半球上の一様分布を任意のデータ分布にマッピングする新しい「ポアソン フロー」生成モデル (PFGM) を提案します。
データ点を $z=0$ 超平面上の電荷として解釈し、追加の次元 $z$ で拡張された空間で、高次元の電場 (ポアソン方程式の解の勾配) を生成します。
これらの電荷が電気力線に沿って上向きに流れる場合、$z=0$ 平面でのそれらの初期分布は半径 $r$ の半球上の分布に変換され、$r \to\infty$ 制限で均一になることを証明します。
全単射変換を学習するために、拡張空間で正規化されたフィールドを推定します。
サンプリングのために、物理的に意味のある追加の次元によって固定された逆方向 ODE を考案します。$z$ がゼロに達すると、サンプルは拡張されていないデータ多様体にヒットします。
実験的に、PFGM は CIFAR-10 の正規化フロー モデルの中で現在の最先端のパフォーマンスを達成し、インセプション スコアは 9.68 ドル、FID スコアは 2.48 ドルです。
また、最先端の SDE アプローチと同等のパフォーマンスを発揮し、画像生成タスクで $10\times $ から $20 \times$ の高速化を提供します。
さらに、PFGM は、弱いネットワーク アーキテクチャでの推定誤差に対してより寛容であり、オイラー法のステップ サイズに対してロバストであるように見えます。
コードは https://github.com/Newbeeer/poisson_flow で入手できます。

要約(オリジナル)

We propose a new ‘Poisson flow’ generative model (PFGM) that maps a uniform distribution on a high-dimensional hemisphere into any data distribution. We interpret the data points as electrical charges on the $z=0$ hyperplane in a space augmented with an additional dimension $z$, generating a high-dimensional electric field (the gradient of the solution to Poisson equation). We prove that if these charges flow upward along electric field lines, their initial distribution in the $z=0$ plane transforms into a distribution on the hemisphere of radius $r$ that becomes uniform in the $r \to\infty$ limit. To learn the bijective transformation, we estimate the normalized field in the augmented space. For sampling, we devise a backward ODE that is anchored by the physically meaningful additional dimension: the samples hit the unaugmented data manifold when the $z$ reaches zero. Experimentally, PFGM achieves current state-of-the-art performance among the normalizing flow models on CIFAR-10, with an Inception score of $9.68$ and a FID score of $2.48$. It also performs on par with the state-of-the-art SDE approaches while offering $10\times $ to $20 \times$ acceleration on image generation tasks. Additionally, PFGM appears more tolerant of estimation errors on a weaker network architecture and robust to the step size in the Euler method. The code is available at https://github.com/Newbeeer/poisson_flow .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google