DUE: A Deep Learning Framework and Library for Modeling Unknown Equations

要約

方程式、特に微分方程式は、自然現象を理解し、さまざまな科学および工学分野で複雑なダイナミクスを予測するための基本です。
ただし、多くの複雑なシステムの統治方程式は、複雑な根本的なメカニズムのために不明のままです。
機械学習とデータサイエンスの最近の進歩は、測定データまたはシミュレーションデータから未知の方程式をモデル化するための新しいパラダイムを提供します。
データ駆動型の発見またはモデリングとして知られるこのパラダイムシフトは、科学のためにAIの最前線に立っており、最近では大きな進歩があります。
この論文では、深い学習を使用して未知の方程式のデータ駆動型モデリングのための体系的なフレームワークを紹介します。
この汎用性の高いフレームワークは、未知のODE、PDE、DAE、IDE、SDE、縮小または部分的に観察されたシステム、および非自律微分方程式を学習することができます。
このフレームワークに基づいて、最新のディープラーニング技術を使用して未知の方程式のデータ駆動型モデリングを促進するように設計されたオープンソースソフトウェアパッケージであるDeep Unknown Equations（DUE）を開発しました。
期日は、教室での指導のための教育ツールとして機能し、学生と新人が微分方程式、データ駆動型のモデリング、FNN、ResNet、一般化ResNet、オペレーターセミグループネットワーク（OSG-NET）、変圧器などの現代的な深い学習アプローチで実践的な経験を積むことができます。
さらに、Dueは、さまざまな科学および工学分野の研究者にとって、多目的でアクセス可能なツールキットです。
データから未知の方程式を学習するだけでなく、従来の数値方法を使用して解決するのに費用がかかる既知でありながら複雑な方程式のサロゲートモデリングにも適用されます。
Dueの詳細な説明を提供し、さまざまな例を通じてその機能を実証します。これは、他のアプリケーションに簡単に適応できるテンプレートとして機能します。

要約(オリジナル)

Equations, particularly differential equations, are fundamental for understanding natural phenomena and predicting complex dynamics across various scientific and engineering disciplines. However, the governing equations for many complex systems remain unknown due to intricate underlying mechanisms. Recent advancements in machine learning and data science offer a new paradigm for modeling unknown equations from measurement or simulation data. This paradigm shift, known as data-driven discovery or modeling, stands at the forefront of AI for science, with significant progress made in recent years. In this paper, we introduce a systematic framework for data-driven modeling of unknown equations using deep learning. This versatile framework is capable of learning unknown ODEs, PDEs, DAEs, IDEs, SDEs, reduced or partially observed systems, and non-autonomous differential equations. Based on this framework, we have developed Deep Unknown Equations (DUE), an open-source software package designed to facilitate the data-driven modeling of unknown equations using modern deep learning techniques. DUE serves as an educational tool for classroom instruction, enabling students and newcomers to gain hands-on experience with differential equations, data-driven modeling, and contemporary deep learning approaches such as FNN, ResNet, generalized ResNet, operator semigroup networks (OSG-Net), and Transformers. Additionally, DUE is a versatile and accessible toolkit for researchers across various scientific and engineering fields. It is applicable not only for learning unknown equations from data but also for surrogate modeling of known, yet complex, equations that are costly to solve using traditional numerical methods. We provide detailed descriptions of DUE and demonstrate its capabilities through diverse examples, which serve as templates that can be easily adapted for other applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google