Distributional Counterfactual Explanations With Optimal Transport

要約

反事実的説明 (CE) は、異なる結果につながる代替入力を特定することにより、ブラックボックスの意思決定モデルへの洞察を提供する事実上の方法です。
ただし、グループ手法やグローバル手法を含む既存の CE アプローチは、主に特定の入力変更に焦点を当てており、入出力スペクトル全体にわたるモデルの結果に影響を与える微妙な分布特性を捕捉する機能が不足しています。
この論文は、観察されたデータと反事実データの分布特性に焦点を移し、より広範な洞察を提供する分布反事実説明 (DCE) を提案します。
DCE は、既存の CE 手法では完全には達成できない、モデルの出力をターゲット分布に合わせるときに、反事実の統計分布を事実の統計分布に似せるため、統計データ分析に基づいて戦略的意思決定を行う利害関係者にとって特に有益です。
最適なトランスポート (OT) を活用して、確率に制約された最適化問題を定式化し、統計的信頼度に裏付けられた、事実に一致する反事実の分布を導き出します。
このアプローチの有効性は実験を通じて実証されており、意思決定モデルに対するより深い洞察を提供する可能性が強調されています。

要約(オリジナル)

Counterfactual explanations (CE) are the de facto method for providing insights into black-box decision-making models by identifying alternative inputs that lead to different outcomes. However, existing CE approaches, including group and global methods, focus predominantly on specific input modifications, lacking the ability to capture nuanced distributional characteristics that influence model outcomes across the entire input-output spectrum. This paper proposes distributional counterfactual explanation (DCE), shifting focus to the distributional properties of observed and counterfactual data, thus providing broader insights. DCE is particularly beneficial for stakeholders making strategic decisions based on statistical data analysis, as it makes the statistical distribution of the counterfactual resembles the one of the factual when aligning model outputs with a target distribution\textemdash something that the existing CE methods cannot fully achieve. We leverage optimal transport (OT) to formulate a chance-constrained optimization problem, deriving a counterfactual distribution aligned with its factual counterpart, supported by statistical confidence. The efficacy of this approach is demonstrated through experiments, highlighting its potential to provide deeper insights into decision-making models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google