Connections between Operator-splitting Methods and Deep Neural Networks with Applications in Image Segmentation

要約

ディープ ニューラル ネットワークは、多くのタスクに使用できる強力なツールです。
なぜこれほど成功しているのかを理解し、数学的に説明することは重要な問題であり、ここ数年人気のある研究の方向性の 1 つです。
ディープ ニューラル ネットワークの数学的解析の文献では、表現理論の確立に多くの研究が捧げられています。
ディープ ニューラル ネットワークと数学的アルゴリズムの間の接続を確立する方法はまだ開発中です。
この論文では、ディープ ニューラル ネットワーク、特に演算子分割との関係についてアルゴリズムを説明します。
特定の分割戦略では、演算子分割メソッドがネットワークと同じ構造を持つことを示します。
この関係と画像セグメンテーション用の Potts モデルを利用して、オペレーター分割法にヒントを得た 2 つのネットワークが提案されています。
2 つのネットワークは本質的に、ポッツ モデルを解く 2 つの演算子分割アルゴリズムです。
提案されたネットワークの有効性を実証するために数値実験が提示されます。

要約(オリジナル)

Deep neural network is a powerful tool for many tasks. Understanding why it is so successful and providing a mathematical explanation is an important problem and has been one popular research direction in past years. In the literature of mathematical analysis of deep neural networks, a lot of works is dedicated to establishing representation theories. How to make connections between deep neural networks and mathematical algorithms is still under development. In this paper, we give an algorithmic explanation for deep neural networks, especially in their connections with operator splitting. We show that with certain splitting strategies, operator-splitting methods have the same structure as networks. Utilizing this connection and the Potts model for image segmentation, two networks inspired by operator-splitting methods are proposed. The two networks are essentially two operator-splitting algorithms solving the Potts model. Numerical experiments are presented to demonstrate the effectiveness of the proposed networks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google