Modulated Adaptive Fourier Neural Operators for Temporal Interpolation of Weather Forecasts

要約

天気や気候のデータは、ストレージの制限のため、または深層学習に基づく天気予報モデルの場合は本質的に長いタイムステップのため、限られた時間解像度で利用できることがよくあります。
時間解像度が粗いため、急速に変化する気象現象を捉えることが困難になります。
この制限に対処するために、状態が既知の 2 つの時点間の大気状態を再構築する内挿モデルを導入します。
このモデルは、適応フーリエ ニューラル オペレーター (AFNO) を変更する新しいネットワーク層を利用します。AFNO は、これまで天気予報やその他の機械学習の物理問題への応用で使用されてきました。
変調 AFNO (ModAFNO) レイヤーは、ここでは補間ターゲット時間から計算されたエンベディングを追加入力として受け取り、AFNO レイヤー内部で学習したシフトスケール操作を適用してターゲット時間に適応させます。
したがって、1 つのモデルを使用してすべての中間時間ステップを生成できます。
6 時間離れた 2 つのタイム ステップ間を補間するようにトレーニングされた ModAFNO ベースの内挿モデルは、実際の対応する 1 時間の解像度データと視覚的にほとんど区別できない 1 時間の解像度の中間タイム ステップを生成します。
このモデルは、線形補間と比較して、中間ステップを再構築する際の RMSE 損失を約 50% 削減します。
また、ハリケーンや熱波などの異常気象の統計を 6 時間の解像度のデータよりも正確に再現できることも実証します。
ModAFNO レイヤーは汎用であり、リード タイムを調整できる天気予報など、他の問題にも適用できることが期待されています。

要約(オリジナル)

Weather and climate data are often available at limited temporal resolution, either due to storage limitations, or in the case of weather forecast models based on deep learning, their inherently long time steps. The coarse temporal resolution makes it difficult to capture rapidly evolving weather events. To address this limitation, we introduce an interpolation model that reconstructs the atmospheric state between two points in time for which the state is known. The model makes use of a novel network layer that modifies the adaptive Fourier neural operator (AFNO), which has been previously used in weather prediction and other applications of machine learning to physics problems. The modulated AFNO (ModAFNO) layer takes an embedding, here computed from the interpolation target time, as an additional input and applies a learned shift-scale operation inside the AFNO layers to adapt them to the target time. Thus, one model can be used to produce all intermediate time steps. Trained to interpolate between two time steps 6 h apart, the ModAFNO-based interpolation model produces 1 h resolution intermediate time steps that are visually nearly indistinguishable from the actual corresponding 1 h resolution data. The model reduces the RMSE loss of reconstructing the intermediate steps by approximately 50% compared to linear interpolation. We also demonstrate its ability to reproduce the statistics of extreme weather events such as hurricanes and heat waves better than 6 h resolution data. The ModAFNO layer is generic and is expected to be applicable to other problems, including weather forecasting with tunable lead time.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google