An Interpretive Constrained Linear Model for ResNet and MgNet

要約

畳み込みニューラル ネットワーク (CNN) を使用した画像分類の解釈可能な数学モデルとして、制約付き線形データ特徴マッピング モデルを提案します。
この観点から、線形システムの従来の反復スキームと、ResNet および MgNet タイプのモデルの基本ブロックのアーキテクチャとの間の詳細な接続を確立します。
これらの接続を使用して、元のモデルと比較してパラメーターが少なく、より正確な結果を生成できるいくつかの修正された ResNet モデルを提示し、それによって、この制約付き学習データ機能マッピング仮定の妥当性を実証します。
この仮定に基づいて、MgNet の合理性を示すために、一般的なデータ機能の反復スキームをさらに提案します。
また、MgNet に関する体系的な数値研究を提供して、画像分類問題におけるその成功と利点を示し、確立されたネットワークと比較してその利点を実証します。

要約(オリジナル)

We propose a constrained linear data-feature-mapping model as an interpretable mathematical model for image classification using a convolutional neural network (CNN). From this viewpoint, we establish detailed connections between the traditional iterative schemes for linear systems and the architectures of the basic blocks of ResNet- and MgNet-type models. Using these connections, we present some modified ResNet models that compared with the original models have fewer parameters and yet can produce more accurate results, thereby demonstrating the validity of this constrained learning data-feature-mapping assumption. Based on this assumption, we further propose a general data-feature iterative scheme to show the rationality of MgNet. We also provide a systematic numerical study on MgNet to show its success and advantages in image classification problems and demonstrate its advantages in comparison with established networks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google