Optimal time sampling in physics-informed neural networks

要約

物理情報に基づいたニューラル ネットワーク (PINN) は、科学計算アプリケーションで発生する方程式を解くために使用される非常に強力なパラダイムです。
この手順の重要な部分は、方程式が時間に依存する場合、時間サンプリングを含む方程式残差の最小化です。
文献では、サンプリングは均一である必要はなく、初期時刻を過大に評価する必要があると主張されていましたが、これらの選択についての厳密な説明はありませんでした。
この論文では、いくつかのプロトタイプの例を取り上げ、ニューラル ネットワークの収束に関する標準的な仮説に基づいて、最適な時間サンプリングが切り捨てられた指数分布に従うことを示します。
特に、時間サンプリングを均一にするのが最適な場合と、均一にする必要がない場合について説明します。
発見は、線形方程式、バーガーズ方程式、ローレンツ系に関する数値例を用いて説明されています。

要約(オリジナル)

Physics-informed neural networks (PINN) is a extremely powerful paradigm used to solve equations encountered in scientific computing applications. An important part of the procedure is the minimization of the equation residual which includes, when the equation is time-dependent, a time sampling. It was argued in the literature that the sampling need not be uniform but should overweight initial time instants, but no rigorous explanation was provided for these choice. In this paper we take some prototypical examples and, under standard hypothesis concerning the neural network convergence, we show that the optimal time sampling follows a truncated exponential distribution. In particular we explain when the time sampling is best to be uniform and when it should not be. The findings are illustrated with numerical examples on linear equation, Burgers’ equation and the Lorenz system.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google