Towards Attributions of Input Variables in a Coalition

要約

この論文は、完全に新しい観点から個々の変数の帰属とそれらの連合の帰属の間の矛盾を説明するための新しい帰属手法を開発することを目的としています。
まず、Shapley 値は、AI モデルによってエンコードされた Harsanyi 相互作用の割り当てとして再定式化できることがわかります。
第二に、相互作用の再割り当てに基づいて、シャプレー値を連合の帰属に拡張します。
第三に、私たちは有効です。
紛争の背後にある根本的なメカニズムを導き出します。
この対立は、彼らの連合における部分的な変数を含む相互作用から生じます。

要約(オリジナル)

This paper aims to develop a new attribution method to explain the conflict between individual variables’ attributions and their coalition’s attribution from a fully new perspective. First, we find that the Shapley value can be reformulated as the allocation of Harsanyi interactions encoded by the AI model. Second, based the re-alloction of interactions, we extend the Shapley value to the attribution of coalitions. Third we ective. We derive the fundamental mechanism behind the conflict. This conflict come from the interaction containing partial variables in their coalition.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google