A Competitive Learning Approach for Specialized Models: A Solution for Complex Physical Systems with Distinct Functional Regimes

要約

科学や工学における複雑なシステムは、異なる体制間で変化する動作を示すことがあります。
従来のグローバル モデルは、この複雑な動作の全範囲を捉えるのに苦労しており、システムを正確に表現する能力が制限されています。
この課題に対応して、物理システムのデータ駆動型モデルを取得するための新しい競合学習アプローチを提案します。
提案されたアプローチの背後にある主なアイデアは、データ上で同時にトレーニングされる一連のモデルに動的損失関数を採用することです。
各モデルはトレーニング中に各観測値を競合するため、データセット内の異なる機能レジームを識別できます。
学習アプローチの有効性を実証するために、学習アプローチに勾配ベースのオプティマイザーを使用するさまざまな回帰手法を組み合わせました。
提案されたアプローチは、モデル発見と関数近似を含むさまざまな問題でテストされ、関数レジームを首尾よく特定し、真の支配方程式を発見し、テストエラーを減らす能力を実証しました。

要約(オリジナル)

Complex systems in science and engineering sometimes exhibit behavior that changes across different regimes. Traditional global models struggle to capture the full range of this complex behavior, limiting their ability to accurately represent the system. In response to this challenge, we propose a novel competitive learning approach for obtaining data-driven models of physical systems. The primary idea behind the proposed approach is to employ dynamic loss functions for a set of models that are trained concurrently on the data. Each model competes for each observation during training, allowing for the identification of distinct functional regimes within the dataset. To demonstrate the effectiveness of the learning approach, we coupled it with various regression methods that employ gradient-based optimizers for training. The proposed approach was tested on various problems involving model discovery and function approximation, demonstrating its ability to successfully identify functional regimes, discover true governing equations, and reduce test errors.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google