Incorporating Background Knowledge in Symbolic Regression using a Computer Algebra System

要約

【タイトル】 コンピュータ代数システムを用いたシンボリック回帰におけるバックグラウンド知識の取り込み

【要約】　
・シンボリック回帰（SR）は、与えられたデータセットに適合する解釈可能で簡潔な式を生成することができ、ブラックボックスアプローチよりも構造に関する人間の理解を促すことができる。
・シンボリック数学的制約の形でのバックグラウンド知識の追加により、理論に関連する有意義な式を生成することができ、同時にデータに整合的なものにすることもできる。
・この研究では、実験的な历史的データセットから吸着方程式を再発見するのに、従来の遺伝的アルゴリズム(GA)ベースのSR(PySR)に制約を追加すること、およびマルコフ連鎖モンテカルロ（MCMC）ベースのベイズSRアーキテクチャ（Bayesian Machine Scientist）に制約を追加することについて検討した。
・制約がデータセットまたは期待されるモデルと相関しない場合は、式の探索を妨げる可能性があることがわかった。
・制約がデータセットまたは期待されるモデルと相関する場合は、ソフト制約を用いると、探索効果とモデルの意味の両方において性能が向上し、計算時間は約1桁増加することがわかった。
・制約をベイズSR（ベイズ事前分布）によって適用する方がGAの適合性関数を変更するよりも性能がよくなることがわかった。

要約(オリジナル)

Symbolic Regression (SR) can generate interpretable, concise expressions that fit a given dataset, allowing for more human understanding of the structure than black-box approaches. The addition of background knowledge (in the form of symbolic mathematical constraints) allows for the generation of expressions that are meaningful with respect to theory while also being consistent with data. We specifically examine the addition of constraints to traditional genetic algorithm (GA) based SR (PySR) as well as a Markov-chain Monte Carlo (MCMC) based Bayesian SR architecture (Bayesian Machine Scientist), and apply these to rediscovering adsorption equations from experimental, historical datasets. We find that, while hard constraints prevent GA and MCMC SR from searching, soft constraints can lead to improved performance both in terms of search effectiveness and model meaningfulness, with computational costs increasing by about an order-of-magnitude. If the constraints do not correlate well with the dataset or expected models, they can hinder the search of expressions. We find Bayesian SR is better these constraints (as the Bayesian prior) than by modifying the fitness function in the GA

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI