Neural Networks Asymptotic Behaviours for the Resolution of Inverse Problems

要約

この論文では、場の量子理論の応用だけでなく、より一般的な状況にも関連するデコンボリューション逆問題に対するニューラル ネットワーク (NN) 技術の有効性についての研究を紹介します。
NN のパラメーターの非線形性が無視できる、ガウス過程 (GP) に対応する NN の漸近限界を考慮します。
これらの結果として得られる GP を使用して、格子上のモンテカルロ手法を通じてシミュレートされた量子調和発振器の場合のデコンボリューション逆問題に取り組みます。
この単純な玩具モデルでは、反転の結果を既知の解析ソリューションと比較できます。
私たちの調査結果は、NN を使用して逆問題を解くと、NN の漸近限界から導出された GP を使用して得られる結果よりもパフォーマンスが低い結果が得られることを示しています。
さらに、層幅が増加するにつれて、トレーニングされた NN の精度が GP の精度に近づいていることが観察されます。
注目すべきことに、これらの GP の 1 つは確率モデルとしての解釈を覆し、文献で確立された方法と比較して新しい視点を提供します。
私たちの結果は、より現実的なセットアップにおけるトレーニングダイナミクスの詳細な研究の必要性を示唆しています。

要約(オリジナル)

This paper presents a study of the effectiveness of Neural Network (NN) techniques for deconvolution inverse problems relevant for applications in Quantum Field Theory, but also in more general contexts. We consider NN’s asymptotic limits, corresponding to Gaussian Processes (GPs), where non-linearities in the parameters of the NN can be neglected. Using these resulting GPs, we address the deconvolution inverse problem in the case of a quantum harmonic oscillator simulated through Monte Carlo techniques on a lattice. In this simple toy model, the results of the inversion can be compared with the known analytical solution. Our findings indicate that solving the inverse problem with a NN yields less performing results than those obtained using the GPs derived from NN’s asymptotic limits. Furthermore, we observe the trained NN’s accuracy approaching that of GPs with increasing layer width. Notably, one of these GPs defies interpretation as a probabilistic model, offering a novel perspective compared to established methods in the literature. Our results suggest the need for detailed studies of the training dynamics in more realistic set-ups.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google