The Importance of Architecture Choice in Deep Learning for Climate Applications

要約

機械学習は、気候科学アプリケーションにおいて広く普及したツールとなっています。
しかし、現在のモデルは、温室効果ガス排出の人為的変化によって引き起こされる非定常性に対処できておらず、提案された予測の不確実性を日常的に定量化していません。
この論文では、ヨーロッパと米国東海岸に温水を輸送することでこれらの地域の気候に非常に重要であり、突然崩壊する可能性がある大西洋子午線循環(AMOC)をモデル化します。
任意の時間スケールを通じて任意の極端な気候シナリオを生成し、ニューラル ネットワークを使用して予測することができます。
私たちの分析では、多様な気候シナリオの下でニューラル ネットワークを使用して AMOC が予測可能であることが示されています。
さらなる実験により、MLP とディープ アンサンブルは、自己相関を通じて AMOC の進行を模倣するのではなく、AMOC の物理学を学習できることが明らかになりました。
不確実性が定量化されているため、AMOCの崩壊の臨界点の前に起こる「スパイク」という興味深いパターンは、今世紀内のAMOC崩壊を予測していたこれまでの分析に疑問を投げかけている。
私たちの結果は、ベイジアン ニューラル ネットワークはより高密度のアーキテクチャに比べてパフォーマンスが低く、ニューラル ネットワークを気候予測などの非定常シナリオに適用する場合には注意が必要であることを示しています。
さらに、我々の結果は、ニューラルネットワークが物理学を捉えるのが難しいため、大規模な NN モデルでは地球規模の地球システムのダイナミクスを正確にモデル化し、非定常気候シナリオにうまく適用することが難しい可能性があることを強調しています。

要約(オリジナル)

Machine Learning has become a pervasive tool in climate science applications. However, current models fail to address nonstationarity induced by anthropogenic alterations in greenhouse emissions and do not routinely quantify the uncertainty of proposed projections. In this paper, we model the Atlantic Meridional Overturning Circulation (AMOC) which is of major importance to climate in Europe and the US East Coast by transporting warm water to these regions, and has the potential for abrupt collapse. We can generate arbitrarily extreme climate scenarios through arbitrary time scales which we then predict using neural networks. Our analysis shows that the AMOC is predictable using neural networks under a diverse set of climate scenarios. Further experiments reveal that MLPs and Deep Ensembles can learn the physics of the AMOC instead of imitating its progression through autocorrelation. With quantified uncertainty, an intriguing pattern of ‘spikes’ before critical points of collapse in the AMOC casts doubt on previous analyses that predicted an AMOC collapse within this century. Our results show that Bayesian Neural Networks perform poorly compared to more dense architectures and care should be taken when applying neural networks to nonstationary scenarios such as climate projections. Further, our results highlight that big NN models might have difficulty in modeling global Earth System dynamics accurately and be successfully applied in nonstationary climate scenarios due to the physics being challenging for neural networks to capture.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google