Weighted Sobolev Approximation Rates for Neural Networks on Unbounded Domains

要約

この研究では、スペクトル バロン空間の関数に対する重み付きソボレフ空間での浅いニューラル ネットワークの近似機能を検討します。
既存の文献では、浅いネットワークといくつかの異なるクラスの活性化関数によって、スペクトル バロン空間をうまく近似できる、つまり次元の悪影響を受けずに、いくつかのケースをすでにカバーしています。
既存の結果の制限は、主に考慮された誤差の尺度にあり、結果は有界領域上のソボレフ空間に制限されます。
ここでは、既存の結果を拡張する 2 つのケースを扱います。
つまり、境界のあるドメインとマッケンハウプトの重みを使用する場合と、ドメインが無制限であることが許可され、重みが減衰する必要がある場合を扱います。
まず、より一般的な重み付きフーリエ ルベーグ空間の重み付きソボレフ空間への埋め込み結果を提示し、次に次元の呪縛のない浅いニューラル ネットワークの漸近近似率を確立します。

要約(オリジナル)

In this work, we consider the approximation capabilities of shallow neural networks in weighted Sobolev spaces for functions in the spectral Barron space. The existing literature already covers several cases, in which the spectral Barron space can be approximated well, i.e., without curse of dimensionality, by shallow networks and several different classes of activation function. The limitations of the existing results are mostly on the error measures that were considered, in which the results are restricted to Sobolev spaces over a bounded domain. We will here treat two cases that extend upon the existing results. Namely, we treat the case with bounded domain and Muckenhoupt weights and the case, where the domain is allowed to be unbounded and the weights are required to decay. We first present embedding results for the more general weighted Fourier-Lebesgue spaces in the weighted Sobolev spaces and then we establish asymptotic approximation rates for shallow neural networks that come without curse of dimensionality.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google