Score-based Neural Ordinary Differential Equations for Computing Mean Field Control Problems

要約

古典的なニューラルの通常の微分方程式（ODE）は、ニューラルネットワークが速度フィールドをパラメーター化する軌跡に沿った高次元空間の対数密度関数を近似するための強力なツールです。
このペーパーでは、深いニューラルネットワークに基づいた軌跡に沿った1次および二次スコア関数を表す神経微分方程式のシステムを提案します。
私たちは、提案されたニューラルODEシステムによって枠組された制約のない最適化問題に、個々のノイズの平均フィールド制御（MFC）問題を再定式化します。
さらに、2次スコア関数の進化に基づいて満たされる粘性ハミルトン – ジャコビ – ベルマン（HJB）方程式の特性を実施するための新しい正規化用語を導入します。
例には、正規化されたワッサースタイン近位演算子（RWPOS）、Fokker-Planck（FP）方程式の確率フローマッチング、および提案された方法の有効性と精度を実証する線形二次（LQ）MFC問題が含まれます。

要約(オリジナル)

Classical neural ordinary differential equations (ODEs) are powerful tools for approximating the log-density functions in high-dimensional spaces along trajectories, where neural networks parameterize the velocity fields. This paper proposes a system of neural differential equations representing first- and second-order score functions along trajectories based on deep neural networks. We reformulate the mean field control (MFC) problem with individual noises into an unconstrained optimization problem framed by the proposed neural ODE system. Additionally, we introduce a novel regularization term to enforce characteristics of viscous Hamilton–Jacobi–Bellman (HJB) equations to be satisfied based on the evolution of the second-order score function. Examples include regularized Wasserstein proximal operators (RWPOs), probability flow matching of Fokker–Planck (FP) equations, and linear quadratic (LQ) MFC problems, which demonstrate the effectiveness and accuracy of the proposed method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google