Dual feature-based and example-based explanation methods

要約

ローカルおよびグローバルな説明に対する新しいアプローチが提案されています。
これは、説明されたインスタンスの周囲の有限数の点に対して構築された凸包の選択に基づいています。
凸包を使用すると、生成されたポリトープの極点の凸状の組み合わせの形でインスタンスの双対表現を考慮することができます。
ユークリッド特徴空間内の新しいインスタンスを摂動させる代わりに、凸結合係数のベクトルが単位単体から均一に生成され、新しい二重データセットを形成します。
二重線形サロゲート モデルは二重データセットでトレーニングされます。
説明特徴量の重要度の値は、単純な行列計算によって計算されます。
このアプローチは、よく知られているモデル LIME の修正とみなすことができます。
双対表現は本質的に、例に基づいた説明を得ることができます。
ニューラル加法モデルは、例ベースの説明アプローチを実装するためのツールとしても考慮されます。
このアプローチを研究するために、実際のデータセットを使用した多くの数値実験が実行されます。
提案されたアルゴリズムのコードが入手可能です。

要約(オリジナル)

A new approach to the local and global explanation is proposed. It is based on selecting a convex hull constructed for the finite number of points around an explained instance. The convex hull allows us to consider a dual representation of instances in the form of convex combinations of extreme points of a produced polytope. Instead of perturbing new instances in the Euclidean feature space, vectors of convex combination coefficients are uniformly generated from the unit simplex, and they form a new dual dataset. A dual linear surrogate model is trained on the dual dataset. The explanation feature importance values are computed by means of simple matrix calculations. The approach can be regarded as a modification of the well-known model LIME. The dual representation inherently allows us to get the example-based explanation. The neural additive model is also considered as a tool for implementing the example-based explanation approach. Many numerical experiments with real datasets are performed for studying the approach. The code of proposed algorithms is available.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google