NeRN — Learning Neural Representations for Neural Networks

要約

【タイトル】NeRN — Neural Networksのためのニューラル表現学習

【要約】
– 最近はNeural Representationsが、3Dメッシュ、形状、画像、動画など多様な信号の再構築に効果的であることが示されている。
– 適切に適応すると、ニューラル表現は、学習済み畳み込みニューラルネットワークの重みを直接表現するために使用できる。これがNeRN（Neural Representation for Neural Networks）である。
– 以前のニューラル表現手法での座標入力に着想を得て、アーキテクチャ内の各畳み込みカーネルに座標を割り当て、予測ネットワークを最適化して、座標を対応する重みにマップする。
– 画像の空間的な滑らかさと同様に、オリジナルネットワークの重みに平滑性制約を組み込むと、NeRNの再構築が向上することを示す。
– 学習済みモデルの重みのわずかな摂動は、著しい精度低下を引き起こすため、知識蒸留技術を利用して学習プロセスを安定化する。
– CIFAR-10、CIFAR-100、ImageNetで広く使用されているアーキテクチャを再構築することで、NeRNの効果を示す。
– 最後に、NeRNを使用した2つのアプリケーションを提示し、学習された表現の能力を示す。

要約(オリジナル)

Neural Representations have recently been shown to effectively reconstruct a wide range of signals from 3D meshes and shapes to images and videos. We show that, when adapted correctly, neural representations can be used to directly represent the weights of a pre-trained convolutional neural network, resulting in a Neural Representation for Neural Networks (NeRN). Inspired by coordinate inputs of previous neural representation methods, we assign a coordinate to each convolutional kernel in our network based on its position in the architecture, and optimize a predictor network to map coordinates to their corresponding weights. Similarly to the spatial smoothness of visual scenes, we show that incorporating a smoothness constraint over the original network’s weights aids NeRN towards a better reconstruction. In addition, since slight perturbations in pre-trained model weights can result in a considerable accuracy loss, we employ techniques from the field of knowledge distillation to stabilize the learning process. We demonstrate the effectiveness of NeRN in reconstructing widely used architectures on CIFAR-10, CIFAR-100, and ImageNet. Finally, we present two applications using NeRN, demonstrating the capabilities of the learned representations.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI