Toward Foundation Models for Earth Monitoring: Generalizable Deep Learning Models for Natural Hazard Segmentation

要約

【タイトル】地球観測のための基盤モデルへ向けて：自然災害セグメンテーションのための汎用的な深層学習モデル

【要約】
– 気候変動により、世界規模で社会や事業にリスクをもたらす極端な天候が増加しているため、自然災害のほぼリアルタイムなマッピングが興味深い課題になっています。
– 最近の手法は、深層学習（DL）を活用してほぼリアルタイムのマッピングを実現しつつありますが、DLベースのアプローチは、特定の周波数帯域の衛星データをベースに、1つの特定のタスクのために設計されているため、地理的な位置や自然災害の種類が異なる領域に対して適用することができません。
– 本研究では、適切なプレタスクの事前学習に基づくDL自然災害マッパーの一般的な性能を大幅に向上させる方法を提案しています。そのために、ターゲットドメインからのデータにアクセスできなくても、四つのU-Netアーキテクチャにわたって未知の自然災害のセグメンテーションに対する改善された汎用性を示しています。
– また、公開されているターゲットドメインのラベルのない画像の特性を活用することで、ニューロンモデルの振る舞いをさらに改善しており、地球観測のための基盤モデルの開発を支援しています。

要約(オリジナル)

Climate change results in an increased probability of extreme weather events that put societies and businesses at risk on a global scale. Therefore, near real-time mapping of natural hazards is an emerging priority for the support of natural disaster relief, risk management, and informing governmental policy decisions. Recent methods to achieve near real-time mapping increasingly leverage deep learning (DL). However, DL-based approaches are designed for one specific task in a single geographic region based on specific frequency bands of satellite data. Therefore, DL models used to map specific natural hazards struggle with their generalization to other types of natural hazards in unseen regions. In this work, we propose a methodology to significantly improve the generalizability of DL natural hazards mappers based on pre-training on a suitable pre-task. Without access to any data from the target domain, we demonstrate this improved generalizability across four U-Net architectures for the segmentation of unseen natural hazards. Importantly, our method is invariant to geographic differences and differences in the type of frequency bands of satellite data. By leveraging characteristics of unlabeled images from the target domain that are publicly available, our approach is able to further improve the generalization behavior without fine-tuning. Thereby, our approach supports the development of foundation models for earth monitoring with the objective of directly segmenting unseen natural hazards across novel geographic regions given different sources of satellite imagery.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI