Efficient Subseasonal Weather Forecast using Teleconnection-informed Transformers

要約

農業、水資源管理、災害の早期警告にとって極めて重要な季節予報は、大気の混沌とし​​た性質により課題に直面しています。
機械学習 (ML) の最近の進歩により、数値モデルに対する競争力のある予測スキルが実現され、天気予報に革命が起こりました。
ただし、このような基礎モデルのトレーニングには数千 GPU 日が必要であり、これにより大量の炭素排出が発生し、その広範な適用性が制限されます。
さらに、ML モデルは、物理的な一貫性や気象学的意味を欠いた平滑化された結果を生成することで、ピクセル単位のエラー スコアを欺く傾向があります。
前述の問題に対処するために、我々はテレコネクションインフォームドトランスを提案します。
私たちのアーキテクチャは、事前トレーニング済みの Pangu モデルを活用して適切な初期重みを実現し、テレコネクション情報を活用した時間モジュールを統合して、拡張された時間範囲での予測可能性を向上させます。
注目すべきことに、Pangu モデルのパラメーターの 1.1% を調整することにより、私たちの方法は 2 週間のリードタイムで 4 つの地表と 5 つの上層大気変数の予測可能性を高めています。
さらに、テレコネクションでフィルタリングされた特徴により、出力の空間粒度が大幅に向上し、潜在的な物理的一貫性が示されます。
私たちの研究は、将来の気象条件を推進する上で大気および海洋のテレコネクションの重要性を強調しています。
さらに、研究者が汎用性の高い下流タスクで既存の基盤モデルを活用するためのリソース効率の高い経路を提供します。

要約(オリジナル)

Subseasonal forecasting, which is pivotal for agriculture, water resource management, and early warning of disasters, faces challenges due to the chaotic nature of the atmosphere. Recent advances in machine learning (ML) have revolutionized weather forecasting by achieving competitive predictive skills to numerical models. However, training such foundation models requires thousands of GPU days, which causes substantial carbon emissions and limits their broader applicability. Moreover, ML models tend to fool the pixel-wise error scores by producing smoothed results which lack physical consistency and meteorological meaning. To deal with the aforementioned problems, we propose a teleconnection-informed transformer. Our architecture leverages the pretrained Pangu model to achieve good initial weights and integrates a teleconnection-informed temporal module to improve predictability in an extended temporal range. Remarkably, by adjusting 1.1% of the Pangu model’s parameters, our method enhances predictability on four surface and five upper-level atmospheric variables at a two-week lead time. Furthermore, the teleconnection-filtered features improve the spatial granularity of outputs significantly, indicating their potential physical consistency. Our research underscores the importance of atmospheric and oceanic teleconnections in driving future weather conditions. Besides, it presents a resource-efficient pathway for researchers to leverage existing foundation models on versatile downstream tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google