From What Ifs to Insights: Counterfactuals in Causal Inference vs. Explainable AI

要約

反事実は、因果推論の2つの異なるデータサイエンス分野（CI）と説明可能な人工知能（XAI）で極めて重要な役割を果たします。
反事実の背後にある核となるアイデアは、両方の分野で同じままですが、さまざまな状況下で起こったことの調査 – の使用方法には重要な違いがあります。
CIおよびXAIの反事実の多面的な概念を含む正式な定義を紹介します。
次に、CI対XAIで反事実がどのように使用、評価、生成、および運用されるかについて説明し、概念と実用的な違いを強調します。
2つを比較して対比することにより、CIとXAIを横断する機会を特定したいと考えています。

要約(オリジナル)

Counterfactuals play a pivotal role in the two distinct data science fields of causal inference (CI) and explainable artificial intelligence (XAI). While the core idea behind counterfactuals remains the same in both fields–the examination of what would have happened under different circumstances–there are key differences in how they are used and interpreted. We introduce a formal definition that encompasses the multi-faceted concept of the counterfactual in CI and XAI. We then discuss how counterfactuals are used, evaluated, generated, and operationalized in CI vs. XAI, highlighting conceptual and practical differences. By comparing and contrasting the two, we hope to identify opportunities for cross-fertilization across CI and XAI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google