Error estimation for physics-informed neural networks with implicit Runge-Kutta methods

要約

動的システムの軌跡を正確に近似できる機能により、動的システムの分析、予測、制御が可能になります。
ニューラル ネットワーク (NN) ベースの近似は、長い積分時間ステップにわたって高い精度で高速に評価できるため、大きな関心を集めています。
ルンゲ・クッタ法などの確立された数値近似スキームとは対照的に、NN ベースの近似の誤差の推定は困難であることがわかっています。
この研究では、高次の陰的ルンゲクッタ (IRK) 法で NN の予測を使用することを提案します。
陰的な方程式系の残差は NN の予測誤差に関連している可能性があるため、軌道に沿ったいくつかの点で誤差推定値を提供できます。
この誤差推定値は NN の予測誤差と高い相関関係があり、IRK 法の次数を増やすとこの推定値が改善されることがわかりました。
物理情報に基づくニューラル ネットワーク (PINN) のこの推定方法論を例示としてロジスティック方程式で示し、それを電力システム モデリングで通常使用される 4 状態の発電機モデルに適用します。

要約(オリジナル)

The ability to accurately approximate trajectories of dynamical systems enables their analysis, prediction, and control. Neural network (NN)-based approximations have attracted significant interest due to fast evaluation with good accuracy over long integration time steps. In contrast to established numerical approximation schemes such as Runge-Kutta methods, the estimation of the error of the NN-based approximations proves to be difficult. In this work, we propose to use the NN’s predictions in a high-order implicit Runge-Kutta (IRK) method. The residuals in the implicit system of equations can be related to the NN’s prediction error, hence, we can provide an error estimate at several points along a trajectory. We find that this error estimate highly correlates with the NN’s prediction error and that increasing the order of the IRK method improves this estimate. We demonstrate this estimation methodology for Physics-Informed Neural Network (PINNs) on the logistic equation as an illustrative example and then apply it to a four-state electric generator model that is regularly used in power system modelling.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google