Limitations of Deep Learning for Inverse Problems on Digital Hardware

要約

ディープ ニューラル ネットワークは、ここ数年で大きな成功を収めてきました。
トレーニングはデジタル ハードウェア上で実行されるため、この論文では、チューリング マシンとしてモデル化された現在のハードウェア プラットフォーム上で実際に何が計算できるかを分析します。これは深層学習の固有の制限につながります。
このために、私たちは逆問題のクラスに焦点を当てます。これには、特に測定値からデータを再構成するあらゆるタスクが含まれます。
有限次元逆問題は、小さな緩和パラメータに対してバナッハ・マズール計算可能ではないことを証明します。
さらに、私たちの結果は、アルゴリズムで取得できる精度の下限を導入します。

要約(オリジナル)

Deep neural networks have seen tremendous success over the last years. Since the training is performed on digital hardware, in this paper, we analyze what actually can be computed on current hardware platforms modeled as Turing machines, which would lead to inherent restrictions of deep learning. For this, we focus on the class of inverse problems, which, in particular, encompasses any task to reconstruct data from measurements. We prove that finite-dimensional inverse problems are not Banach-Mazur computable for small relaxation parameters. Even more, our results introduce a lower bound on the accuracy that can be obtained algorithmically.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google