Discrete distributions are learnable from metastable samples

要約

多変数分布からサンプリングするように設計されたマルコフ連鎖サンプラーは、状態空間の特定の領域で望ましくない行き詰まりを起こすことがよくあります。
これにより、このようなサンプラーは、通常、チェーンの望ましい定常分布とはまったく異なる準安定分布からほぼサンプリングを行います。
強い準安定条件を満たす可逆マルコフ連鎖サンプラーの準安定分布の単一変数条件は、平均して真の分布の条件に非常に近いことを示します。
これは、カルバック・ライブラー発散や総変動距離などのグローバルな指標の観点から、準安定分布が真のモデルから遠く離れている場合でも当てはまります。
この特性により、サンプルが状態空間の小さな領域に集中した準安定分布に由来する場合でも、条件付き尤度ベースの推定器を使用して真のモデルを学習することができます。
このような準安定状態の明示的な例は、確率の流れを効果的にボトルネックにし、マルコフ連鎖の混合不良を引き起こす領域から構築できます。
バイナリ ペアごとの無向グラフィカル モデルの特定のケースについては、結果を拡張して、準安定状態からのデータを使用してエネルギー関数のパラメーターを学習し、モデルの構造を復元できることをさらに厳密に示します。

要約(オリジナル)

Markov chain samplers designed to sample from multi-variable distributions often undesirably get stuck in specific regions of their state space. This causes such samplers to approximately sample from a metastable distribution which is usually quite different from the desired, stationary distribution of the chain. We show that single-variable conditionals of metastable distributions of reversible Markov chain samplers that satisfy a strong metastability condition are on average very close to those of the true distribution. This holds even when the metastable distribution is far away from the true model in terms of global metrics like Kullback-Leibler divergence or total variation distance. This property allows us to learn the true model using a conditional likelihood based estimator, even when the samples come from a metastable distribution concentrated in a small region of the state space. Explicit examples of such metastable states can be constructed from regions that effectively bottleneck the probability flow and cause poor mixing of the Markov chain. For specific cases of binary pairwise undirected graphical models, we extend our results to further rigorously show that data coming from metastable states can be used to learn the parameters of the energy function and recover the structure of the model.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google