Adversarial Observations in Weather Forecasting

要約

GoogleのGencastなどのAIベースのシステムは、最近、天気予報における最先端のアートを再定義し、日常の天気と極端なイベントの両方についてより正確でタイムリーな予測を提供しています。
これらのシステムは、従来の気象方法を置き換える寸前にありますが、予測プロセスに新しい脆弱性も導入します。
この論文では、この脅威を調査し、Gencastで使用されているような自己回帰拡散モデルに対する新しい攻撃を提示し、天気予報を操作し、ハリケーン、熱波、激しい降雨などの極端なイベントを製造することができます。
この攻撃では、天然の騒音と統計的に区別できず、測定値の0.1％未満を変化させる気象観測に微妙な摂動をもたらします。単一の気象衛星からのデータの改ざんに匹敵します。
現代の予測は、ほぼ100の衛星やさまざまな国で運営されている他の多くのソースからのデータを統合するため、私たちの調査結果は、大規模な混乱を引き起こし、気象予測に対する国民の信頼を損なう可能性を備えた重要なセキュリティリスクを強調しています。

要約(オリジナル)

AI-based systems, such as Google’s GenCast, have recently redefined the state of the art in weather forecasting, offering more accurate and timely predictions of both everyday weather and extreme events. While these systems are on the verge of replacing traditional meteorological methods, they also introduce new vulnerabilities into the forecasting process. In this paper, we investigate this threat and present a novel attack on autoregressive diffusion models, such as those used in GenCast, capable of manipulating weather forecasts and fabricating extreme events, including hurricanes, heat waves, and intense rainfall. The attack introduces subtle perturbations into weather observations that are statistically indistinguishable from natural noise and change less than 0.1% of the measurements – comparable to tampering with data from a single meteorological satellite. As modern forecasting integrates data from nearly a hundred satellites and many other sources operated by different countries, our findings highlight a critical security risk with the potential to cause large-scale disruptions and undermine public trust in weather prediction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google