AI Foundation Models for Weather and Climate: Applications, Design, and Implementation

要約

機械学習と深層学習の手法は、大気の混沌とし​​た挙動を理解し、天気予報を推進するために広く研究されてきました。
地球のデジタルツインの構築に対するテクノロジー企業、政府機関、気象機関の関心が高まっています。
トランスフォーマー、物理学に基づいた機械学習、グラフ ニューラル ネットワークを使用した最近のアプローチは、比較的狭い時空間スケールと特定のタスクで最先端のパフォーマンスを実証しました。
言語モデリングとビジョンに事前トレーニング済みのトランスフォーマーを使用し、迅速なエンジニアリングと微調整を行う生成人工知能 (AI) の最近の成功により、私たちは現在、汎用化可能な AI に向かって進んでいます。
特に、複数のドメイン固有の下流タスクで競争力を持って実行できる AI 基盤モデルの台頭を目の当たりにしています。
このような進歩にもかかわらず、私たちはまだ、全地球システム モデル、地域気候モデル、中規模気象モデルのための一般化可能な AI モデルの初期段階にいます。
ここでは、主に気象学の文脈における変圧器とオペレーターの学習文献から、現在の最先端の AI アプローチをレビューします。
私たちは、天気と気候の予測をナウキャスティングおよび予測するための一連の基礎モデルの成功基準に関する視点を提供します。
また、このようなモデルが、ダウンスケーリング (超解像度)、山火事の発生につながる条件の特定、ハリケーンや大気中の河川などのさまざまな時空間スケールにわたる結果として生じる気象現象の予測などの下流タスクでどのように競争力を発揮できるかについても説明します。
特に、現在の AI 手法を調査し、気象基盤モデルを設計および実装できるほど十分に成熟していると主張します。

要約(オリジナル)

Machine learning and deep learning methods have been widely explored in understanding the chaotic behavior of the atmosphere and furthering weather forecasting. There has been increasing interest from technology companies, government institutions, and meteorological agencies in building digital twins of the Earth. Recent approaches using transformers, physics-informed machine learning, and graph neural networks have demonstrated state-of-the-art performance on relatively narrow spatiotemporal scales and specific tasks. With the recent success of generative artificial intelligence (AI) using pre-trained transformers for language modeling and vision with prompt engineering and fine-tuning, we are now moving towards generalizable AI. In particular, we are witnessing the rise of AI foundation models that can perform competitively on multiple domain-specific downstream tasks. Despite this progress, we are still in the nascent stages of a generalizable AI model for global Earth system models, regional climate models, and mesoscale weather models. Here, we review current state-of-the-art AI approaches, primarily from transformer and operator learning literature in the context of meteorology. We provide our perspective on criteria for success towards a family of foundation models for nowcasting and forecasting weather and climate predictions. We also discuss how such models can perform competitively on downstream tasks such as downscaling (super-resolution), identifying conditions conducive to the occurrence of wildfires, and predicting consequential meteorological phenomena across various spatiotemporal scales such as hurricanes and atmospheric rivers. In particular, we examine current AI methodologies and contend they have matured enough to design and implement a weather foundation model.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google