Unlocking Feature Visualization for Deeper Networks with MAgnitude Constrained Optimization

要約

特徴の視覚化は、特に Olah らによる影響力のある研究の後、かなりの人気を得ています。
2017 年にそれが説明可能性のための重要なツールとして確立されました。
しかし、解釈可能な画像を生成するためのトリックへの依存と、それをより深いニューラルネットワークに拡張する際の対応する課題により、その広範な採用は制限されてきました。
ここでは、これらの欠点に対処する簡単なアプローチである MACO について説明します。
主なアイデアは、生成された説明が自然画像の空間内に確実に存在するように、振幅を一定に保ちながら位相スペクトルを最適化することで画像を生成することです。
私たちのアプローチは (定性的および定量的の両方で) 大幅に優れた結果をもたらし、大規模な最先端のニューラル ネットワークの効率的で解釈可能な特徴の視覚化を可能にします。
また、私たちのアプローチが、空間的な重要性を備えた特徴の視覚化を強化できる帰属メカニズムを示していることも示します。
私たちは、特徴視覚化手法を比較するための新しいベンチマークで手法を検証し、ImageNet データセットのすべてのクラスの視覚化を https://serre-lab.github.io/Lens/ でリリースします。
全体として、私たちのアプローチは、パラメトリックな事前画像モデルに頼ることなく、大規模で最先端のディープ ニューラル ネットワークの特徴の視覚化を初めて可能にします。

要約(オリジナル)

Feature visualization has gained substantial popularity, particularly after the influential work by Olah et al. in 2017, which established it as a crucial tool for explainability. However, its widespread adoption has been limited due to a reliance on tricks to generate interpretable images, and corresponding challenges in scaling it to deeper neural networks. Here, we describe MACO, a simple approach to address these shortcomings. The main idea is to generate images by optimizing the phase spectrum while keeping the magnitude constant to ensure that generated explanations lie in the space of natural images. Our approach yields significantly better results (both qualitatively and quantitatively) and unlocks efficient and interpretable feature visualizations for large state-of-the-art neural networks. We also show that our approach exhibits an attribution mechanism allowing us to augment feature visualizations with spatial importance. We validate our method on a novel benchmark for comparing feature visualization methods, and release its visualizations for all classes of the ImageNet dataset on https://serre-lab.github.io/Lens/. Overall, our approach unlocks, for the first time, feature visualizations for large, state-of-the-art deep neural networks without resorting to any parametric prior image model.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google