Physics-Informed Neural Networks for High-Frequency and Multi-Scale Problems using Transfer Learning

要約

Physics-informed Neural Network (PINN) は、偏微分方程式および常微分方程式 (ODE/PDE) のデータ駆動型ソルバーです。
これは、順方向問題と逆方向問題の両方に対処するための統合フレームワークを提供します。
ただし、目的関数の複雑さにより、トレーニングが失敗することがよくあります。
この問題は、高周波およびマルチスケールの問題を解決する場合に特に顕著です。
私たちは、転移学習を使用して PINN トレーニングの堅牢性と収束性を向上させ、低周波数の問題からトレーニングを開始し、徐々に高周波数の問題にアプローチすることを提案しました。
2 つのケーススタディを通じて、転移学習により、ネットワーク パラメーターを増やすことなく、低周波問題から高周波問題までの近似解を得るように PINN を効果的にトレーニングできることがわかりました。
さらに、必要なデータ ポイントとトレーニング時間が少なくなります。
私たちは、オプティマイザーの選択を含むトレーニング戦略を詳しく説明し、より複雑な問題を解決するために転移学習を使用してニューラル ネットワークをトレーニングするためのガイドラインを提案しました。

要約(オリジナル)

Physics-informed neural network (PINN) is a data-driven solver for partial and ordinary differential equations(ODEs/PDEs). It provides a unified framework to address both forward and inverse problems. However, the complexity of the objective function often leads to training failures. This issue is particularly prominent when solving high-frequency and multi-scale problems. We proposed using transfer learning to boost the robustness and convergence of training PINN, starting training from low-frequency problems and gradually approaching high-frequency problems. Through two case studies, we discovered that transfer learning can effectively train PINN to approximate solutions from low-frequency problems to high-frequency problems without increasing network parameters. Furthermore, it requires fewer data points and less training time. We elaborately described our training strategy, including optimizer selection, and suggested guidelines for using transfer learning to train neural networks for solving more complex problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google