Uncertainty Quantification with Bayesian Higher Order ReLU KANs

要約

我々は、コルモゴロフ・アーノルド・ネットワークの領域における不確実性定量化の最初の方法を導入し、特に(高次)ReLUKANに焦点を当てて、ベイジアン法の計算需要を考慮して計算効率を向上させます。
私たちが提案する方法は本質的に一般的であり、認識的な不確実性と偶然的な不確実性の両方へのアクセスを提供します。
他のさまざまな基底関数に一般化することもできます。
単純な 1 次元関数や (確率的) 偏微分方程式の領域への適用など、一連の閉包テストを通じてメソッドを検証します。
後者に関しては、確率項を含めることによって導入された機能依存性を正確に識別するこの方法の能力を実証します。
この作業をサポートするコードは、https://github.com/wmdataphys/Bayesian-HR-KAN にあります。

要約(オリジナル)

We introduce the first method of uncertainty quantification in the domain of Kolmogorov-Arnold Networks, specifically focusing on (Higher Order) ReLUKANs to enhance computational efficiency given the computational demands of Bayesian methods. The method we propose is general in nature, providing access to both epistemic and aleatoric uncertainties. It is also capable of generalization to other various basis functions. We validate our method through a series of closure tests, including simple one-dimensional functions and application to the domain of (Stochastic) Partial Differential Equations. Referring to the latter, we demonstrate the method’s ability to correctly identify functional dependencies introduced through the inclusion of a stochastic term. The code supporting this work can be found at https://github.com/wmdataphys/Bayesian-HR-KAN

arxiv情報

著者 James Giroux,Cristiano Fanelli
発行日 2024-10-02 15:57:18+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG, physics.data-an パーマリンク