Sample complexity of Schrödinger potential estimation

要約

シュルオディンガー橋とSDEの確率的最適制御に基づく最新の生成モデリングアプローチにおいて重要な役割を果たす、シュルオディンガーポテンシャル推定の問題を扱う。単純な事前拡散過程が与えられたとき、これらの方法は、与えられた2つの分布$rrho_0$と$rrho_T^*$の間の経路を最小限の努力で探索する。この場合の最適なドリフトは、シュラン・ポテンシャルで表現できる。本論文では、時間$T$における限界分布のフィッティングを目的とした、許容可能な対数ポテンシャルのクラスに対する経験的カルバック・ライブラー(KL)リスク最小化器の一般化能力を研究する。対象分布$rho_T^*$と事前過程に関する合理的な仮定の下で、$rho_T^*$と推定対数ポテンシャルに対応する終端密度との間のKL-発散の非漸近的な高確率上界を導出する。特に、$rrho_0$と$rrho_T^*$の両方が無限のサポートを持っていても、$n$が無限大になるとき、過剰KL-リスクは$O(˶log^2 n / n)$の速さで減少することを示す。

要約(オリジナル)

We address the problem of Schr\’odinger potential estimation, which plays a crucial role in modern generative modelling approaches based on Schr\’odinger bridges and stochastic optimal control for SDEs. Given a simple prior diffusion process, these methods search for a path between two given distributions $\rho_0$ and $\rho_T^*$ requiring minimal efforts. The optimal drift in this case can be expressed through a Schr\’odinger potential. In the present paper, we study generalization ability of an empirical Kullback-Leibler (KL) risk minimizer over a class of admissible log-potentials aimed at fitting the marginal distribution at time $T$. Under reasonable assumptions on the target distribution $\rho_T^*$ and the prior process, we derive a non-asymptotic high-probability upper bound on the KL-divergence between $\rho_T^*$ and the terminal density corresponding to the estimated log-potential. In particular, we show that the excess KL-risk may decrease as fast as $O(\log^2 n / n)$ when the sample size $n$ tends to infinity even if both $\rho_0$ and $\rho_T^*$ have unbounded supports.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL