Optimal 1-Wasserstein Distance for WGANs

要約

Generative Adversarial Networks の背後で働く数学的な力は、難しい理論的問題を引き起こします。
生成された分布の幾何学的特性を特徴付けるという重要な問題を動機として、有限サンプルと漸近領域の両方で Wasserstein GAN (WGAN) の徹底的な分析を提供します。
潜在空間が一変量である特定のケースを研究し、出力空間の次元に関係なく有効な結果を導き出します。
特に、サンプル サイズが固定されている場合、最適な WGAN は、サンプル ポイント間のユークリッド距離の二乗の合計を最小化する接続されたパスと密接にリンクしていることを示します。
また、生成リプシッツ関数のファミリーが適切に成長することを条件として、サンプル サイズが無限大になる傾向があり、所定の収束率で WGAN が (1-Wasserstein 距離に関して) ターゲット分布に近づくことができるという事実も強調します。
私たちは、半離散設定における最適輸送理論に関する新しい結果を導き出します。

要約(オリジナル)

The mathematical forces at work behind Generative Adversarial Networks raise challenging theoretical issues. Motivated by the important question of characterizing the geometrical properties of the generated distributions, we provide a thorough analysis of Wasserstein GANs (WGANs) in both the finite sample and asymptotic regimes. We study the specific case where the latent space is univariate and derive results valid regardless of the dimension of the output space. We show in particular that for a fixed sample size, the optimal WGANs are closely linked with connected paths minimizing the sum of the squared Euclidean distances between the sample points. We also highlight the fact that WGANs are able to approach (for the 1-Wasserstein distance) the target distribution as the sample size tends to infinity, at a given convergence rate and provided the family of generative Lipschitz functions grows appropriately. We derive in passing new results on optimal transport theory in the semi-discrete setting.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google