Do intermediate feature coalitions aid explainability of black-box models?

要約

この作業では、レベル構造に基づく中間概念の概念を導入して、ブラック ボックス モデルの説明可能性を支援します。
レベル構造は階層構造であり、各レベルはデータセットの機能 (つまり、プレーヤー セット パーティション) に対応しています。
粗さのレベルは、シングルトンのみを含む自明なセットから、大連合のみを含むセットに増加します。
さらに、抽象的なレベルで説明を生成するために利用できるドメインエキスパートを介して、メロノミー、つまり部分と全体の関係を確立することができます。
このアプローチの使いやすさを、実世界の自動車モデルの例とタイタニックのデータセットで示します。ここでは、中間概念がさまざまな抽象化レベルでの説明可能性に役立ちます。

要約(オリジナル)

This work introduces the notion of intermediate concepts based on levels structure to aid explainability for black-box models. The levels structure is a hierarchical structure in which each level corresponds to features of a dataset (i.e., a player-set partition). The level of coarseness increases from the trivial set, which only comprises singletons, to the set, which only contains the grand coalition. In addition, it is possible to establish meronomies, i.e., part-whole relationships, via a domain expert that can be utilised to generate explanations at an abstract level. We illustrate the usability of this approach in a real-world car model example and the Titanic dataset, where intermediate concepts aid in explainability at different levels of abstraction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google