Explaining Predictions by Characteristic Rules

要約

特性ルールは、ルール学習の領域内で識別ルールよりも解釈可能性を向上させる能力があるとして提唱されてきました。
ただし、前者のタイプのルールは、予測を説明する手法ではまだ使用されていません。
CEGA (Characteristic Explanatory General Association rules) と呼ばれる新しい説明手法が提案されています。この手法では、関連ルール マイニングを使用して、標準的なローカル説明手法によって生成された複数の説明を 1 組の特性ルールに集約します。
CEGA を、識別ルールの形式でローカルおよび集約された説明を生成するための 2 つの最先端のメソッド、Anchors および GLocalX と比較する実証的調査が紹介されています。
結果は、提案されたアプローチが 2 つの最先端のアプローチと比較して、忠実性と複雑さの間のより良いトレードオフを提供することを示唆しています。
CEGA と Anchors は、忠実度に関して GLocalX を大幅に上回っていますが、生成されたルールの数に関しては CEGA と GLocalX が Anchors を大幅に上回っています。
CEGA の説明形式を差別的なルールに変更し、アンカーの代わりにローカル説明手法として LIME と SHAP を使用した場合の影響も調査されます。
結果は、特徴的な説明ルールが標準の識別形式のルールと依然として有利に競合することを示しています。
この結果は、CEGA を SHAP またはアンカーと組み合わせて使用​​すると、局所的な説明手法として LIME を使用した場合と比較して、一貫して忠実度が向上することも示しています。

要約(オリジナル)

Characteristic rules have been advocated for their ability to improve interpretability over discriminative rules within the area of rule learning. However, the former type of rule has not yet been used by techniques for explaining predictions. A novel explanation technique, called CEGA (Characteristic Explanatory General Association rules), is proposed, which employs association rule mining to aggregate multiple explanations generated by any standard local explanation technique into a set of characteristic rules. An empirical investigation is presented, in which CEGA is compared to two state-of-the-art methods, Anchors and GLocalX, for producing local and aggregated explanations in the form of discriminative rules. The results suggest that the proposed approach provides a better trade-off between fidelity and complexity compared to the two state-of-the-art approaches; CEGA and Anchors significantly outperform GLocalX with respect to fidelity, while CEGA and GLocalX significantly outperform Anchors with respect to the number of generated rules. The effect of changing the format of the explanations of CEGA to discriminative rules and using LIME and SHAP as local explanation techniques instead of Anchors are also investigated. The results show that the characteristic explanatory rules still compete favorably with rules in the standard discriminative format. The results also indicate that using CEGA in combination with either SHAP or Anchors consistently leads to a higher fidelity compared to using LIME as the local explanation technique.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google