Large Scale Masked Autoencoding for Reducing Label Requirements on SAR Data

要約

衛星ベースのリモートセンシングは、人為的気候変動の影響の監視と緩和に役立ちます。
これらのセンサーから得られる大規模で高解像度のデータは、介入や政策決定に情報を提供するために使用できますが、これらの介入の適時性と精度は光学データの使用によって制限され、夜間は動作できず、悪天候の影響を受けます。
合成開口レーダー (SAR) は、光学データに代わる堅牢な手段を提供しますが、それに伴う複雑さにより、従来の深層学習でのラベル付きデータ生成の範囲が制限されます。
この研究では、自己教師あり事前トレーニング スキームであるマスクされた自動エンコーディングを、地球の陸地表面積の 8.7% をカバーする SAR 振幅データに適用し、気候変動の監視に不可欠な 2 つの下流タスク (植生被覆予測と植生被覆予測) の事前トレーニングされた重みを調整します。
土地被覆分類。
この事前トレーニング スキームの使用により、下流タスクのラベル付け要件が 1 桁以上削減されること、およびこの事前トレーニングが地理的に一般化され、事前トレーニング セット外の領域で下流に調整するとパフォーマンスの向上が増加することを示します。
私たちの発見は、課題および地域固有の SAR モデルの開発を促進することにより、気候変動の緩和を大きく前進させ、地域社会や組織が気候変動の影響を迅速かつ正確に監視するためのカスタマイズされたソリューションを展開できるようにします。

要約(オリジナル)

Satellite-based remote sensing is instrumental in the monitoring and mitigation of the effects of anthropogenic climate change. Large scale, high resolution data derived from these sensors can be used to inform intervention and policy decision making, but the timeliness and accuracy of these interventions is limited by use of optical data, which cannot operate at night and is affected by adverse weather conditions. Synthetic Aperture Radar (SAR) offers a robust alternative to optical data, but its associated complexities limit the scope of labelled data generation for traditional deep learning. In this work, we apply a self-supervised pretraining scheme, masked autoencoding, to SAR amplitude data covering 8.7\% of the Earth’s land surface area, and tune the pretrained weights on two downstream tasks crucial to monitoring climate change – vegetation cover prediction and land cover classification. We show that the use of this pretraining scheme reduces labelling requirements for the downstream tasks by more than an order of magnitude, and that this pretraining generalises geographically, with the performance gain increasing when tuned downstream on regions outside the pretraining set. Our findings significantly advance climate change mitigation by facilitating the development of task and region-specific SAR models, allowing local communities and organizations to deploy tailored solutions for rapid, accurate monitoring of climate change effects.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google