Generating Likely Counterfactuals Using Sum-Product Networks

要約

AI システムによる意思決定の説明可能性は、最近の規制とユーザーの需要の両方によって左右されます。
こうした決定は、多くの場合、事後的に \emph{事後} でのみ説明可能です。
反事実的な説明では、何が最善の反事実的な説明となるのかを尋ねるかもしれません。
「サンプルからの距離」が重要な基準ですが、複数の基準を考慮する必要があることは明らかです。
反事実の妥当性を考慮する最近の手法は、この本来の目的を犠牲にしているように見えます。
ここでは、可能性が高く、同時に近くて希薄な説明を提供するシステムを紹介します。
反事実の説明に対する多くの一般的な要望を満​​たす最も可能性の高い説明の検索が、混合整数最適化 (MIO) を使用してモデル化できることを示します。
その過程で、Sum-Product Network (SPN) の MIO 定式化を提案し、その SPN を使用して独立した関心のある反事実の可能性を推定します。

要約(オリジナル)

Explainability of decisions made by AI systems is driven by both recent regulation and user demand. These decisions are often explainable only \emph{post hoc}, after the fact. In counterfactual explanations, one may ask what constitutes the best counterfactual explanation. Clearly, multiple criteria must be taken into account, although ‘distance from the sample’ is a key criterion. Recent methods that consider the plausibility of a counterfactual seem to sacrifice this original objective. Here, we present a system that provides high-likelihood explanations that are, at the same time, close and sparse. We show that the search for the most likely explanations satisfying many common desiderata for counterfactual explanations can be modeled using mixed-integer optimization (MIO). In the process, we propose an MIO formulation of a Sum-Product Network (SPN) and use the SPN to estimate the likelihood of a counterfactual, which can be of independent interest.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google