HarsanyiNet: Computing Accurate Shapley Values in a Single Forward Propagation

要約

シャプレー値は、信頼できる帰属メトリックとして広くみなされている。しかし、ディープニューラルネットワーク(DNN)の入力変数の帰属を説明するためにシャプレー値を用いる場合、実世界のアプリケーションにおいて比較的正確なシャプレー値を近似するためには、通常非常に高い計算コストが必要となる。そこで我々は、入力サンプルに対する推論を行うと同時に、1回の順伝播で入力変数の正確なシャプレー値を計算する、新しいネットワークアーキテクチャであるHarsanyiNetを提案する。HarsanyiNetは、シャプレー値がネットワークによって符号化されたHarsanyi相互作用の再分布として再定式化できるという理論的基礎に基づいて設計されている。

要約(オリジナル)

The Shapley value is widely regarded as a trustworthy attribution metric. However, when people use Shapley values to explain the attribution of input variables of a deep neural network (DNN), it usually requires a very high computational cost to approximate relatively accurate Shapley values in real-world applications. Therefore, we propose a novel network architecture, the HarsanyiNet, which makes inferences on the input sample and simultaneously computes the exact Shapley values of the input variables in a single forward propagation. The HarsanyiNet is designed on the theoretical foundation that the Shapley value can be reformulated as the redistribution of Harsanyi interactions encoded by the network.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL