Constrained Exploration via Reflected Replica Exchange Stochastic Gradient Langevin Dynamics

要約

レプリカ交換確率的勾配ランジュバン ダイナミクス (reSGLD) は、大規模なデータセットにおける非凸学習に効果的なサンプラーです。
ただし、高温チェーンが分布テールを深く掘り下げすぎると、シミュレーションで停滞の問題が発生する可能性があります。
この問題に取り組むために、我々はリフレクト reSGLD (r2SGLD) を提案します。これは、境界領域内のリフレクション ステップを利用することで、制約付きの非凸探索に合わせて調整されたアルゴリズムです。
理論的には、ドメインの直径を小さくすると混合率が向上し、 \emph{quadratic} の挙動を示すことが観察されます。
経験的に、物理的制約のある動的システムの特定、制約されたマルチモーダル分布のシミュレーション、画像分類タスクなど、広範な実験を通じてそのパフォーマンスをテストします。
理論的および経験的発見は、シミュレーション効率の向上における制約付き探索の重要な役割を強調しています。

要約(オリジナル)

Replica exchange stochastic gradient Langevin dynamics (reSGLD) is an effective sampler for non-convex learning in large-scale datasets. However, the simulation may encounter stagnation issues when the high-temperature chain delves too deeply into the distribution tails. To tackle this issue, we propose reflected reSGLD (r2SGLD): an algorithm tailored for constrained non-convex exploration by utilizing reflection steps within a bounded domain. Theoretically, we observe that reducing the diameter of the domain enhances mixing rates, exhibiting a \emph{quadratic} behavior. Empirically, we test its performance through extensive experiments, including identifying dynamical systems with physical constraints, simulations of constrained multi-modal distributions, and image classification tasks. The theoretical and empirical findings highlight the crucial role of constrained exploration in improving the simulation efficiency.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google