Deep Backtracking Counterfactuals for Causally Compliant Explanations

要約

反事実は、事実の観察を条件として、変更された状況下で観察されたであろう内容に答えることで、貴重な洞察を提供できます。
反事実の古典的な介入的解釈は広く研究されてきましたが、バックトラッキングはあまり研究されていません。バックトラッキングの原理は、すべての因果律がそのまま保たれる代替哲学として登場しました。
本研究では、深い生成コンポーネントからなる構造的因果モデルにおいてバックトラッキング反事実を計算する実用的な方法を紹介します。
この目的を達成するために、因果モデルの構造化された潜在空間で扱いやすい制約付き最適化問題を解くことによって、反事実の生成を可能にする構造割り当てに条件を課します。
私たちの定式化は、反事実の説明の分野の方法との比較も容易にします。
これらと比較すると、私たちの方法は、汎用性があり、モジュール式で、因果関係に準拠した代替手段となります。
これらのプロパティを、MNIST と CelebA の修正バージョンで実験的に実証します。

要約(オリジナル)

Counterfactuals can offer valuable insights by answering what would have been observed under altered circumstances, conditional on a factual observation. Whereas the classical interventional interpretation of counterfactuals has been studied extensively, backtracking constitutes a less studied alternative the backtracking principle has emerged as an alternative philosophy where all causal laws are kept intact. In the present work, we introduce a practical method for computing backtracking counterfactuals in structural causal models that consist of deep generative components. To this end, we impose conditions on the structural assignments that enable the generation of counterfactuals by solving a tractable constrained optimization problem in the structured latent space of a causal model. Our formulation also facilitates a comparison with methods in the field of counterfactual explanations. Compared to these, our method represents a versatile, modular and causally compliant alternative. We demonstrate these properties experimentally on a modified version of MNIST and CelebA.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google