AdjointBackMapV2: Precise Reconstruction of Arbitrary CNN Unit’s Activation via Adjoint Operators

要約

随伴演算子は、CNN の内部動作の調査に効果的であることがわかっています [1]。
ただし、以前のバイアスなしの仮定は、その一般化を制限しました。
我々は、拡張空間の一部としてすべての CNN 層のバイアスを含む拡張ノルム空間に入力画像を埋め込むことで制限を克服し、高レベルの重みを拡張入力空間にマッピングして再構築する随伴演算子ベースのアルゴリズムを提案します。
効果的な超曲面。
このような超曲面は、CNN の任意のユニットに対して計算できます。この再構成された超曲面は、(内積を通じて) 元の入力と乗算すると、各ユニットの出力値を正確に複製することを証明します。
CIFAR-10 および CIFAR-100 データセットに基づいた実験結果を示します。提案されたアプローチでは、ほぼ 0 の活性化値再構成誤差が達成されます。

要約(オリジナル)

Adjoint operators have been found to be effective in the exploration of CNN’s inner workings [1]. However, the previous no-bias assumption restricted its generalization. We overcome the restriction via embedding input images into an extended normed space that includes bias in all CNN layers as part of the extended space and propose an adjoint-operator-based algorithm that maps high-level weights back to the extended input space for reconstructing an effective hypersurface. Such hypersurface can be computed for an arbitrary unit in the CNN, and we prove that this reconstructed hypersurface, when multiplied by the original input (through an inner product), will precisely replicate the output value of each unit. We show experimental results based on the CIFAR-10 and CIFAR-100 data sets where the proposed approach achieves near 0 activation value reconstruction error.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google