Assessment of the Reliablity of a Model’s Decision by Generalizing Attribution to the Wavelet Domain

要約

ニューラル ネットワークはコンピューター ビジョンで顕著なパフォーマンスを示していますが、ブラック ボックスの性質により、多くの科学および技術分野での導入は困難です。
科学者や専門家は、決定の信頼性を評価する必要があります。つまり、モデルが関連する特徴に依存しているかどうか、およびそれらの特徴が画像破損に対して堅牢であるかどうかを同時に知る必要があります。
既存の帰属手法は、画像領域内の重要な領域を強調表示することで人間が理解できる説明を提供することを目的としていますが、決定プロセスの信頼性を完全に特徴付けることはできません。
このギャップを埋めるために、ウェーブレット変換を使用してピクセル領域から空間スケール領域への帰属を一般化したウェーブレット sCale アトリビューション メソッド (WCAM) を導入します。
ウェーブレット ドメインの帰属により、モデルがどこに、どのスケールに焦点を当てているかが明らかになり、決定が信頼できるかどうかを評価できるようになります。
私たちのコードは \url{https://github.com/gabrielkasmi/spectral-attribution} からアクセスできます。

要約(オリジナル)

Neural networks have shown remarkable performance in computer vision, but their deployment in numerous scientific and technical fields is challenging due to their black-box nature. Scientists and practitioners need to evaluate the reliability of a decision, i.e., to know simultaneously if a model relies on the relevant features and whether these features are robust to image corruptions. Existing attribution methods aim to provide human-understandable explanations by highlighting important regions in the image domain, but fail to fully characterize a decision process’s reliability. To bridge this gap, we introduce the Wavelet sCale Attribution Method (WCAM), a generalization of attribution from the pixel domain to the space-scale domain using wavelet transforms. Attribution in the wavelet domain reveals where and on what scales the model focuses, thus enabling us to assess whether a decision is reliable. Our code is accessible here: \url{https://github.com/gabrielkasmi/spectral-attribution}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google