Nonparametric Generative Modeling with Conditional and Locally-Connected Sliced-Wasserstein Flows

要約

タイトル：条件付きおよびローカル接続スライス・ワッセルシュタインフローを用いた非パラメトリック生成モデリング

要約：

– Sliced-Wasserstein Flow（SWF）は、非パラメトリック生成モデリングにおいて有望な手法であるが、生成品質が低下する問題や条件モデリング能力の欠如により、広く採用されていない。
– 本研究では、SWFの結合分布と条件分布が同じであるという良い観察に基づいて、非パラメトリック条件モデリングを可能にするシンプルかつ効果的な拡張である条件付きスライス・ワッセルシュタインフロー（CSWF）を提案することで、このギャップを埋めるための2つの大きな貢献を行う。
– ビジョン研究でのローカル接続と多重スケール表現に着想を得た2つの技術を用いて、SWFに画像の適切な帰納的バイアスを導入し、モデリングの効率と品質を大幅に向上させる。
– すべての改善点により、純粋に非パラメトリックな方法で条件付きおよび無条件のタスクの両方で深層パラメトリック生成モデルと同等の生成パフォーマンスを達成し、その大きな潜在能力を示した。

要約(オリジナル)

Sliced-Wasserstein Flow (SWF) is a promising approach to nonparametric generative modeling but has not been widely adopted due to its suboptimal generative quality and lack of conditional modeling capabilities. In this work, we make two major contributions to bridging this gap. First, based on a pleasant observation that (under certain conditions) the SWF of joint distributions coincides with those of conditional distributions, we propose Conditional Sliced-Wasserstein Flow (CSWF), a simple yet effective extension of SWF that enables nonparametric conditional modeling. Second, we introduce appropriate inductive biases of images into SWF with two techniques inspired by local connectivity and multiscale representation in vision research, which greatly improve the efficiency and quality of modeling images. With all the improvements, we achieve generative performance comparable with many deep parametric generative models on both conditional and unconditional tasks in a purely nonparametric fashion, demonstrating its great potential.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI