Target Score Matching

要約

ノイズ除去スコア マッチングは、回帰損失を最小限に抑えることで、ターゲット分布のノイズが含まれたバージョンのスコアを推定し、ノイズ除去拡散モデルの人気のあるクラスをトレーニングするために広く使用されています。
ただし、ノイズ除去スコア マッチングのよく知られている制限は、ノイズ レベルが低い場合にスコアの推定値が低くなるということです。
この問題は、物理科学の問題や、クリーンな元のターゲットのスコアがわかっているモンテカルロ サンプリング タスクの場合に特に不利です。
直感的には、このような場合、ターゲットのわずかにノイズが含まれたバージョンのスコアを推定するのは簡単な作業になるはずです。
この論文では、この欠点に対処し、目標スコアの知識を活用することが実際に可能であることを示します。
ターゲット スコア ID と、対応するターゲット スコア マッチング回帰損失を提示します。これにより、低ノイズ レベルで好ましい特性を認めるスコア推定値を取得できます。

要約(オリジナル)

Denoising Score Matching estimates the score of a noised version of a target distribution by minimizing a regression loss and is widely used to train the popular class of Denoising Diffusion Models. A well known limitation of Denoising Score Matching, however, is that it yields poor estimates of the score at low noise levels. This issue is particularly unfavourable for problems in the physical sciences and for Monte Carlo sampling tasks for which the score of the clean original target is known. Intuitively, estimating the score of a slightly noised version of the target should be a simple task in such cases. In this paper, we address this shortcoming and show that it is indeed possible to leverage knowledge of the target score. We present a Target Score Identity and corresponding Target Score Matching regression loss which allows us to obtain score estimates admitting favourable properties at low noise levels.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google