Predicting Wave Dynamics using Deep Learning with Multistep Integration Inspired Attention and Physics-Based Loss Decomposition

要約

この論文では、流体媒体における波動伝播のデータ駆動型予測のための物理ベースの深い学習フレームワークを紹介します。
提案されたアプローチは、MultiStep Integruationにインスパイアされた注意（MI2A）と呼ばれ、削除された潜在的な表現のための除去ベースの畳み込み自動エンコーダーを、注意ベースの再発性ニューラルネットワークと、還元座標の時間進化のために長期的な神経セルを組み合わせます。
この提案されたアーキテクチャは、潜在時刻統合の安定性と長老の精度を高めるために、古典的な線形多段階の方法からインスピレーションを引き出します。
波のダイナミクスのモデリングにおけるハイブリッド神経アーキテクチャの効率にもかかわらず、自己回帰予測は、時間の経過とともに位相と振幅のエラーが蓄積する傾向があることがよくあります。
MI2Aフレームワーク内でこの問題を軽減するために、トレーニング損失関数を異なる位相および振幅成分に明示的に分離する新しい損失分解戦略を導入します。
標準の平均二乗エラー損失で訓練された2つのベースライン減少したモデル、つまりLuongスタイルの注意を使用したシーケンスからシーケンスへの再発性ニューラルネットワークとバリアントに対してMI2Aのパフォーマンスを評価します。
MI2Aモデルの有効性を実証するために、複雑さの増加、すなわち1次元線形対流、非線形粘性ハンバーガー方程式、および2次元の聖venant浅い水システムの3つのベンチマーク波伝播の問題を検討します。
我々の結果は、MI2Aフレームワークが長期予測の精度と安定性を大幅に改善し、波振幅と位相特性を正確に保存することを示しています。
標準的な長期タームメモリおよび注意ベースのモデルと比較して、MI2Aベースのディープラーニングは、優れた一般化と時間的精度を示し、リアルタイムの波モデリングのための有望なツールになります。

要約(オリジナル)

In this paper, we present a physics-based deep learning framework for data-driven prediction of wave propagation in fluid media. The proposed approach, termed Multistep Integration-Inspired Attention (MI2A), combines a denoising-based convolutional autoencoder for reduced latent representation with an attention-based recurrent neural network with long-short-term memory cells for time evolution of reduced coordinates. This proposed architecture draws inspiration from classical linear multistep methods to enhance stability and long-horizon accuracy in latent-time integration. Despite the efficiency of hybrid neural architectures in modeling wave dynamics, autoregressive predictions are often prone to accumulating phase and amplitude errors over time. To mitigate this issue within the MI2A framework, we introduce a novel loss decomposition strategy that explicitly separates the training loss function into distinct phase and amplitude components. We assess the performance of MI2A against two baseline reduced-order models trained with standard mean-squared error loss: a sequence-to-sequence recurrent neural network and a variant using Luong-style attention. To demonstrate the effectiveness of the MI2A model, we consider three benchmark wave propagation problems of increasing complexity, namely one-dimensional linear convection, the nonlinear viscous Burgers equation, and the two-dimensional Saint-Venant shallow water system. Our results demonstrate that the MI2A framework significantly improves the accuracy and stability of long-term predictions, accurately preserving wave amplitude and phase characteristics. Compared to the standard long-short term memory and attention-based models, MI2A-based deep learning exhibits superior generalization and temporal accuracy, making it a promising tool for real-time wave modeling.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google