Pre or Post-Softmax Scores in Gradient-based Attribution Methods, What is Best?

要約

分類子として機能するニューラル ネットワークの勾配ベースの帰属手法では、ネットワーク スコアの勾配が使用されます。
ここでは、ソフトマックス前のスコアの勾配を使用する場合とソフトマックス後のスコアを使用する場合の実際的な違いと、それぞれの利点と欠点について説明します。

要約(オリジナル)

Gradient based attribution methods for neural networks working as classifiers use gradients of network scores. Here we discuss the practical differences between using gradients of pre-softmax scores versus post-softmax scores, and their respective advantages and disadvantages.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google