Exploring Generalisability of Self-Distillation with No Labels for SAR-Based Vegetation Prediction

要約

本研究では、3つの地域（中国、コナス、ヨーロッパ）にまたがる2つの合成開口レーダーデータセット（S1GRDまたはGSSIC）を用いて、DINO-ViTベースのモデルを事前学習する。より小さなラベル付きデータセットでモデルを微調整し、植生パーセンテージを予測し、モデルの埋め込み空間と、多様な地理的地域や未見データに対する一般化能力との関連を経験的に研究する。S1GRDでは、異なる地域の埋め込み空間は明確に分離しているが、GSSICでは重なり合っている。位置パターンは微調整の間にも残り、埋め込み空間での距離が大きくなると、見知らぬ地域に対する誤差が大きくなることが多い。これにより、我々の研究は、リモートセンシングに適用される自己教師付きモデルの汎化可能性についての理解を深める。

要約(オリジナル)

In this work we pre-train a DINO-ViT based model using two Synthetic Aperture Radar datasets (S1GRD or GSSIC) across three regions (China, Conus, Europe). We fine-tune the models on smaller labeled datasets to predict vegetation percentage, and empirically study the connection between the embedding space of the models and their ability to generalize across diverse geographic regions and to unseen data. For S1GRD, embedding spaces of different regions are clearly separated, while GSSIC’s overlaps. Positional patterns remain during fine-tuning, and greater distances in embeddings often result in higher errors for unfamiliar regions. With this, our work increases our understanding of generalizability for self-supervised models applied to remote sensing.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL