Auxiliary-Tasks Learning for Physics-Informed Neural Network-Based Partial Differential Equations Solving

要約

物理情報に基づくニューラル ネットワーク (PINN) は、偏微分方程式 (PDE) を解くための有望な代理モードとして浮上しています。
その有効性は、ニューラル ネットワークを通じてソリューション関連の機能をキャプチャできることにあります。
ただし、元の PINN は低精度や非収束などのボトルネックに悩まされることが多く、複雑な物理的コンテキストでの適用性が制限されます。
これらの問題を軽減するために、私たちは補助タスク学習ベースの物理情報に基づくニューラル ネットワーク (ATL-PINN) を提案しました。ATL-PINN は 4 つの異なる補助タスク学習モードを提供し、元の PINN と比較してそのパフォーマンスを調査します。
また、勾配コサイン類似度アルゴリズムを使用して、ATL-PINN における補助問題の損失と主問題の損失を統合します。これは、補助タスク学習モードの有効性を高めることを目的としています。
私たちの知る限り、これは物理情報に基づく学習の文脈で補助タスク学習モードを導入した最初の研究です。
私たちは、さまざまな分野やシナリオにわたる 3 つの偏微分方程式問題について実験を実施します。
私たちの調査結果は、提案された補助タスク学習モードがソリューションの精度を大幅に向上させ、元のシングルタスク PINN と比較して最大 96.62% (平均 28.23%) のパフォーマンス向上を達成できることを示しています。
コードとデータセットは、https://github.com/junjun-yan/ATL-PINN でオープンソースです。

要約(オリジナル)

Physics-informed neural networks (PINNs) have emerged as promising surrogate modes for solving partial differential equations (PDEs). Their effectiveness lies in the ability to capture solution-related features through neural networks. However, original PINNs often suffer from bottlenecks, such as low accuracy and non-convergence, limiting their applicability in complex physical contexts. To alleviate these issues, we proposed auxiliary-task learning-based physics-informed neural networks (ATL-PINNs), which provide four different auxiliary-task learning modes and investigate their performance compared with original PINNs. We also employ the gradient cosine similarity algorithm to integrate auxiliary problem loss with the primary problem loss in ATL-PINNs, which aims to enhance the effectiveness of the auxiliary-task learning modes. To the best of our knowledge, this is the first study to introduce auxiliary-task learning modes in the context of physics-informed learning. We conduct experiments on three PDE problems across different fields and scenarios. Our findings demonstrate that the proposed auxiliary-task learning modes can significantly improve solution accuracy, achieving a maximum performance boost of 96.62% (averaging 28.23%) compared to the original single-task PINNs. The code and dataset are open source at https://github.com/junjun-yan/ATL-PINN.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google