Learning Energy-Based Models With Adversarial Training

要約

敵対的トレーニング (AT) に基づいて、エネルギーベースのモデル (EBM) を学習するための新しいアプローチを研究します。
(バイナリ) AT がデータ分布のサポートをモデル化する特別な種類のエネルギー関数を学習し、学習プロセスが EBM の MCMC ベースの最尤学習と密接に関連していることを示します。
さらに、AT を使用した生成モデリングの改善された手法を提案し、この新しいアプローチが多様でリアルな画像を生成できることを示します。
明示的な EBM に匹敵する画像生成パフォーマンスを備えていることは別として、調査対象のアプローチはトレーニングに対して安定しており、画像変換タスクに適していて、分散外での強力な敵対的ロバスト性を示します。
私たちの結果は、生成モデリングへの AT アプローチの実行可能性を示しており、AT が EBM を学習するための競争力のある代替アプローチであることを示唆しています。

要約(オリジナル)

We study a new approach to learning energy-based models (EBMs) based on adversarial training (AT). We show that (binary) AT learns a special kind of energy function that models the support of the data distribution, and the learning process is closely related to MCMC-based maximum likelihood learning of EBMs. We further propose improved techniques for generative modeling with AT, and demonstrate that this new approach is capable of generating diverse and realistic images. Aside from having competitive image generation performance to explicit EBMs, the studied approach is stable to train, is well-suited for image translation tasks, and exhibits strong out-of-distribution adversarial robustness. Our results demonstrate the viability of the AT approach to generative modeling, suggesting that AT is a competitive alternative approach to learning EBMs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google