Cross-Domain Foundation Model Adaptation: Pioneering Computer Vision Models for Geophysical Data Analysis

要約

私たちは、基礎モデル (FM) をコンピューター ビジョン ドメインから地球科学に適応させることを検討します。
FM は、大規模なデータセットでトレーニングされた大規模なニューラル ネットワークであり、優れた適応性と汎用性を備えてさまざまなタスクに優れています。
しかし、地球科学は、厳選されたトレーニング データセットの不足や、特化した FM の開発にかかる高い計算コストなどの課題に直面しています。
この研究では、FM をコンピュータ ビジョンから地球科学に適応させることを検討し、その規模、適応性、地球科学データ分析のための汎用性を分析します。
既存のコンピューター ビジョン FM を活用し、地球科学タスクに合わせて微調整し、精度を高めながら開発コストを削減するワークフローを導入します。
私たちは実験を通じて、月画像、地震データ、DAS アレイなどの地球科学データを処理および解釈する幅広いアプリケーションにおけるこのワークフローの有効性を実証します。
私たちの発見は、高度な ML 技術を地球科学に導入し、クロスドメイン FM 適応の実現可能性と利点を証明し、地球科学データ分析のさらなる進歩を推進し、他の科学分野での FM アプリケーションに貴重な洞察を提供します。

要約(オリジナル)

We explore adapting foundation models (FMs) from the computer vision domain to geoscience. FMs, large neural networks trained on massive datasets, excel in diverse tasks with remarkable adaptability and generality. However, geoscience faces challenges like lacking curated training datasets and high computational costs for developing specialized FMs. This study considers adapting FMs from computer vision to geoscience, analyzing their scale, adaptability, and generality for geoscientific data analysis. We introduce a workflow that leverages existing computer vision FMs, fine-tuning them for geoscientific tasks, reducing development costs while enhancing accuracy. Through experiments, we demonstrate this workflow’s effectiveness in broad applications to process and interpret geoscientific data of lunar images, seismic data, DAS arrays and so on. Our findings introduce advanced ML techniques to geoscience, proving the feasibility and advantages of cross-domain FMs adaptation, driving further advancements in geoscientific data analysis and offering valuable insights for FMs applications in other scientific domains.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google