Rethinking Counterfactual Explanations as Local and Regional Counterfactual Policies

要約

反事実的説明 (CE) は、安定性の確保、複数の CE の合成、妥当性と希薄性の保証の提供など、いくつかの未解決の課題に直面しています。
より実践的な観点から、最近の研究 [Pawelczyk et al., 2022] は、規定された反事実的手段が個人によって正確に実装されないことが多く、最先端の CE アルゴリズムのほとんどが失敗する可能性が非常に高いことを示しています。
この騒々しい環境。
これらの問題に対処するために、各観測に対してまばらな局所的な反事実ルールを与え、高い確率で決定を変更できる値の範囲を与えるルールを提供する確率的フレームワークを提案します。
これらのルールは、さまざまな反事実の説明の要約として機能し、強力な手段を生み出します。
さらに、これらのローカル ルールを地域の反事実ルールに集約し、データのサブグループに対する共有リソースを特定します。
当社のローカルおよび地域ルールはランダム フォレスト アルゴリズムから派生しており、高密度領域でリソースを選択することで統計的保証とデータ分散の忠実性を提供します。
さらに、決定を変更する可能性が高い最小の変数セットを最初に選択するため、ルールはまばらです。
私たちは、標準的な CE や最近の同様の試みと比較して、反事実ルールの有効性を検証する実験を実施しました。
私たちのメソッドは Python パッケージとして利用できます。

要約(オリジナル)

Counterfactual Explanations (CE) face several unresolved challenges, such as ensuring stability, synthesizing multiple CEs, and providing plausibility and sparsity guarantees. From a more practical point of view, recent studies [Pawelczyk et al., 2022] show that the prescribed counterfactual recourses are often not implemented exactly by individuals and demonstrate that most state-of-the-art CE algorithms are very likely to fail in this noisy environment. To address these issues, we propose a probabilistic framework that gives a sparse local counterfactual rule for each observation, providing rules that give a range of values capable of changing decisions with high probability. These rules serve as a summary of diverse counterfactual explanations and yield robust recourses. We further aggregate these local rules into a regional counterfactual rule, identifying shared recourses for subgroups of the data. Our local and regional rules are derived from the Random Forest algorithm, which offers statistical guarantees and fidelity to data distribution by selecting recourses in high-density regions. Moreover, our rules are sparse as we first select the smallest set of variables having a high probability of changing the decision. We have conducted experiments to validate the effectiveness of our counterfactual rules in comparison to standard CE and recent similar attempts. Our methods are available as a Python package.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google