Making Sense of Dependence: Efficient Black-box Explanations Using Dependence Measure

要約

この論文では、Hilbert-Schmidt Independence Criterion (HSIC)、Reproducing Kernel Hilbert Spaces (RKHS) に基づく依存性尺度に基づく新しい効率的なブラック ボックス属性法を提示します。
HSIC は、分布のカーネル埋め込みに基づいて、入力画像の領域とモデルの出力との間の依存関係を測定します。
したがって、RKHS 表現機能によって強化された説明が提供されます。
HSIC は非常に効率的に推定できるため、他のブラックボックス アトリビューション手法と比較して計算コストを大幅に削減できます。
私たちの実験では、HSIC が以前の最良のブラックボックス アトリビューション メソッドよりも最大 8 倍高速でありながら、忠実であることを示しています。
実際、Imagenet のいくつかの忠実度メトリクスについて、最新のさまざまなモデル アーキテクチャを使用して、ブラック ボックスとホワイト ボックスの両方のアトリビューション方法の最先端を改善または一致させています。
重要なのは、これらの進歩を転置して、YOLOv4 などのオブジェクト検出モデルを効率的かつ忠実に説明できることを示していることです。
最後に、HSIC に基づく重要度スコアの ANOVA のような直交分解を可能にする新しいカーネルを提案することで、従来の帰属方法を拡張し、各画像パッチの重要性だけでなく、それらのペアワイズ相互作用の重要性も評価できるようにします。
私たちの実装は、https://github.com/paulnovello/HSIC-Attribution-Method で入手できます。

要約(オリジナル)

This paper presents a new efficient black-box attribution method based on Hilbert-Schmidt Independence Criterion (HSIC), a dependence measure based on Reproducing Kernel Hilbert Spaces (RKHS). HSIC measures the dependence between regions of an input image and the output of a model based on kernel embeddings of distributions. It thus provides explanations enriched by RKHS representation capabilities. HSIC can be estimated very efficiently, significantly reducing the computational cost compared to other black-box attribution methods. Our experiments show that HSIC is up to 8 times faster than the previous best black-box attribution methods while being as faithful. Indeed, we improve or match the state-of-the-art of both black-box and white-box attribution methods for several fidelity metrics on Imagenet with various recent model architectures. Importantly, we show that these advances can be transposed to efficiently and faithfully explain object detection models such as YOLOv4. Finally, we extend the traditional attribution methods by proposing a new kernel enabling an ANOVA-like orthogonal decomposition of importance scores based on HSIC, allowing us to evaluate not only the importance of each image patch but also the importance of their pairwise interactions. Our implementation is available at https://github.com/paulnovello/HSIC-Attribution-Method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google