BELLA: Black box model Explanations by Local Linear Approximations

要約

ブラックボックスモデルの意思決定プロセスを理解することは、単なる法的要件ではなく、パフォーマンスを評価する追加の方法でもあります。
ただし、回帰モデルの最先端の事後説明アプローチは、合成データ生成に依存しており、不確実性をもたらし、説明の信頼性を損なう可能性があります。
さらに、彼らは非常に少ないデータポイントのみに適用される説明を作成する傾向があります。
この論文では、回帰ブラックボックスモデルの個々の予測を説明するための決定論的モデルに依存しない事後アプローチであるBellaを提示します。
Bellaは、特徴空間で訓練された線形モデルの形で説明を提供します。
Bellaは、説明が正確で、シンプルで、一般的で、堅牢になるように、線形モデルが適用される近隣のサイズを最大化します。
ベラは、事実と反事実的な説明の両方を生み出すことができます。

要約(オリジナル)

Understanding the decision-making process of black-box models has become not just a legal requirement, but also an additional way to assess their performance. However, the state of the art post-hoc explanation approaches for regression models rely on synthetic data generation, which introduces uncertainty and can hurt the reliability of the explanations. Furthermore, they tend to produce explanations that apply to only very few data points. In this paper, we present BELLA, a deterministic model-agnostic post-hoc approach for explaining the individual predictions of regression black-box models. BELLA provides explanations in the form of a linear model trained in the feature space. BELLA maximizes the size of the neighborhood to which the linear model applies so that the explanations are accurate, simple, general, and robust. BELLA can produce both factual and counterfactual explanations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google