Optimization, Isoperimetric Inequalities, and Sampling via Lyapunov Potentials

要約

この論文では、すべての初期化からの勾配流を使用してfの最適化が、Gibbsのポアンカルの不等式が低温でMu_ {beta} = e^{ – \ beta f}/zのポアンカルの不等式を意味することを証明します。
特に、勾配流の収束速度に関する軽度の規則性の仮定の下で、Mu_ {beta}は、beta> = omega（d）の定数o（c ‘+1/beta）のポアンカル\’ e不等式を満たしていることを確立します。
Mu_ {beta}は、sがmu_ {beta}の2番目のモーメントを示す定数o（s beta c ‘）でlog-sobolevの不等式を満たします。
ここで、漸近表記はF依存パラメーターを隠します。
高レベルでは、これにより、すべての初期化からの勾配流を介した最適化が、低温ギブス測定のポアンカル\ ‘eとlog-sobolevの不等式を意味することを確立します。これは、すべての初期化からのサンプリングを意味します。
同様に、同じ仮定の下で、fをいくつかのセットsを除くすべての場所から初期化できる場合、Mu_ {beta}は、\ beta = omega（d）のパラメーター（c ‘、mu_ {beta}（s））を使用して弱いポアンカル\’ e不等式を満たすことを確立します。
高レベルでは、これは「ほとんどの」初期化からの最適化が弱いポアンカル\ ‘eの不等式を意味しますが、これは適切な温かいスタートからのサンプリングを意味します。
私たちの規則性の仮定は軽度であり、結果として、いくつかの新しい自然で興味深いクラスの非ログconcave密度から効率的にサンプリングできることを示しています。
別の結果として、LEHEC（2023）と同様に、滑らかさよりも滑らかさよりも穏やかな規則性条件を満たすログコンケーブ測定の効率的な離散時間サンプリング結果を取得します。

要約(オリジナル)

In this paper, we prove that optimizability of any F using Gradient Flow from all initializations implies a Poincar\’e Inequality for Gibbs measures mu_{beta} = e^{-\beta F}/Z at low temperature. In particular, under mild regularity assumptions on the convergence rate of Gradient Flow, we establish that mu_{beta} satisfies a Poincar\’e Inequality with constant O(C’+1/beta) for beta >= Omega(d), where C’ is the Poincar\’e constant of mu_{beta} restricted to a neighborhood of the global minimizers of F. Under an additional mild condition on F, we show that mu_{beta} satisfies a Log-Sobolev Inequality with constant O(S beta C’) where S denotes the second moment of mu_{beta}. Here asymptotic notation hides F-dependent parameters. At a high level, this establishes that optimizability via Gradient Flow from every initialization implies a Poincar\’e and Log-Sobolev Inequality for the low-temperature Gibbs measure, which in turn imply sampling from all initializations. Analogously, we establish that under the same assumptions, if F can be initialized from everywhere except some set S, then mu_{beta} satisfies a Weak Poincar\’e Inequality with parameters (C’, mu_{beta}(S)) for \beta = Omega(d). At a high level, this shows while optimizability from ‘most’ initializations implies a Weak Poincar\’e Inequality, which in turn implies sampling from suitable warm starts. Our regularity assumptions are mild and as a consequence, we show we can efficiently sample from several new natural and interesting classes of non-log-concave densities, an important setting with relatively few examples. As another corollary, we obtain efficient discrete-time sampling results for log-concave measures satisfying milder regularity conditions than smoothness, similar to Lehec (2023).

arxiv情報

提供元, 利用サービス

arxiv.jp, Google