Inverse Evolution Data Augmentation for Neural PDE Solvers

要約

ニューラル ネットワークは、特にニューラル演算子の適用を通じて、偏微分方程式 (PDE) を解くための有望なツールとして登場しました。
ニューラル オペレーターのトレーニングには通常、精度と一般性を確保するために大量のトレーニング データが必要です。
この論文では、進化方程式に基づいてニューラル オペレーターをトレーニングするために特別に設計された新しいデータ拡張方法を提案します。
私たちのアプローチは、これらの方程式の逆プロセスからの洞察を利用して、元のデータと結合されるランダムな初期化からデータを効率的に生成します。
拡張データの精度をさらに高めるために、高次逆進化スキームを導入します。
これらのスキームは、少数の明示的な計算ステップで構成されますが、結果のデータペアが、対応する陰的な数値スキームを満たすことが証明できます。
精度を保証するために小さなタイムステップまたは陰的スキームを必要とする従来の PDE ソルバーとは対照的に、当社のデータ拡張手法は比較的大きなタイムステップの陽的スキームを採用するため、計算コストが大幅に削減されます。
精度と有効性の実験により、私たちのアプローチの有効性が確認されています。
さらに、バーガーズ方程式、アレン・カーン方程式、ナビエ・ストークス方程式という 3 つの一般的な進化方程式に対するフーリエ神経演算子と UNet を用いた実験を通じて、アプローチを検証します。
この結果は、逆進化データ拡張手法と組み合わせると、フーリエ ニューラル演算子のパフォーマンスと堅牢性が大幅に向上することを示しています。

要約(オリジナル)

Neural networks have emerged as promising tools for solving partial differential equations (PDEs), particularly through the application of neural operators. Training neural operators typically requires a large amount of training data to ensure accuracy and generalization. In this paper, we propose a novel data augmentation method specifically designed for training neural operators on evolution equations. Our approach utilizes insights from inverse processes of these equations to efficiently generate data from random initialization that are combined with original data. To further enhance the accuracy of the augmented data, we introduce high-order inverse evolution schemes. These schemes consist of only a few explicit computation steps, yet the resulting data pairs can be proven to satisfy the corresponding implicit numerical schemes. In contrast to traditional PDE solvers that require small time steps or implicit schemes to guarantee accuracy, our data augmentation method employs explicit schemes with relatively large time steps, thereby significantly reducing computational costs. Accuracy and efficacy experiments confirm the effectiveness of our approach. Additionally, we validate our approach through experiments with the Fourier Neural Operator and UNet on three common evolution equations that are Burgers’ equation, the Allen-Cahn equation and the Navier-Stokes equation. The results demonstrate a significant improvement in the performance and robustness of the Fourier Neural Operator when coupled with our inverse evolution data augmentation method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google