Maximum-likelihood Estimators in Physics-Informed Neural Networks for High-dimensional Inverse Problems

要約

タイトル：高次元逆問題における物理情報ネットワークにおける最尤推定法 　　
要約：

– 物理情報ネットワーク（PINNs）は、逆の常微分方程式（ODE）および偏微分方程式（PDE）を解決するための適切な数学的な足場として証明されています。
– 典型的な逆PINNsは、複数のハイパーパラメータを持つソフト制約の多目的最適化問題として定式化されています。
– 本研究では、逆PINNsを最尤推定器（MLE）の観点から枠組み化することで、ハイパーパラメータのチューニングを必要とせず、物理モデル空間への補間から誤差伝播を明示的に許可しました。
– 私たちは、一般的には移行化学や生物学において共通する微分代数方程式で制約された高次元のカップルODEに応用を探究しています。
– さらに、ODEカップリング行列の特異値分解（SVD）が、PINNsの解決策を表現し、残差を投影することができる減少した無相関部分空間を提供することを示しました。
– 最後に、SVDベースは、ハイパーパラメータフリーの強健なMLEの適用における共分散行列の反転の事前調整子として機能し、「キネティクス情報を持つニューラルネットワーク」に使用されます。

要約(オリジナル)

Physics-informed neural networks (PINNs) have proven a suitable mathematical scaffold for solving inverse ordinary (ODE) and partial differential equations (PDE). Typical inverse PINNs are formulated as soft-constrained multi-objective optimization problems with several hyperparameters. In this work, we demonstrate that inverse PINNs can be framed in terms of maximum-likelihood estimators (MLE) to allow explicit error propagation from interpolation to the physical model space through Taylor expansion, without the need of hyperparameter tuning. We explore its application to high-dimensional coupled ODEs constrained by differential algebraic equations that are common in transient chemical and biological kinetics. Furthermore, we show that singular-value decomposition (SVD) of the ODE coupling matrices (reaction stoichiometry matrix) provides reduced uncorrelated subspaces in which PINNs solutions can be represented and over which residuals can be projected. Finally, SVD bases serve as preconditioners for the inversion of covariance matrices in this hyperparameter-free robust application of MLE to “kinetics-informed neural networks”.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI