Learning Stationary Markov Processes with Contrastive Adjustment

要約

定常分布がデータ分布と一致するマルコフ遷移カーネルを学習するために、コントラスト調整と呼ばれる新しい最適化アルゴリズムを導入します。
コントラスト調整は、遷移分布の特定のファミリに限定されず、連続および離散状態空間の両方でデータをモデル化するために使用できます。
ノイズ アニーリング サンプリングに関する最近の研究に着想を得て、ミキシング速度とサンプルの忠実度を交換できる特定の遷移演算子であるノイズ カーネルを提案します。
学習されたマルコフ連鎖の定常性により、データマニホールドのローカル探索が可能になり、人間のフィードバックによって出力を繰り返し調整できるようになるため、コントラスト調整は人間とコンピューターの設計プロセスで非常に価値があることを示します。
コントラスト調整でトレーニングされたノイズ カーネルのパフォーマンスを現在の最先端の生成モデルと比較し、さまざまな画像合成タスクで有望な結果を示します。

要約(オリジナル)

We introduce a new optimization algorithm, termed contrastive adjustment, for learning Markov transition kernels whose stationary distribution matches the data distribution. Contrastive adjustment is not restricted to a particular family of transition distributions and can be used to model data in both continuous and discrete state spaces. Inspired by recent work on noise-annealed sampling, we propose a particular transition operator, the noise kernel, that can trade mixing speed for sample fidelity. We show that contrastive adjustment is highly valuable in human-computer design processes, as the stationarity of the learned Markov chain enables local exploration of the data manifold and makes it possible to iteratively refine outputs by human feedback. We compare the performance of noise kernels trained with contrastive adjustment to current state-of-the-art generative models and demonstrate promising results on a variety of image synthesis tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google