Causal Inference via Predictive Coding

要約

ベイズ推論と因果推論は、インテリジェンスの基本的なプロセスです。
ベイジアン推論モデルの観察: 関連する変数 x を観察した場合、y について何が推測できるでしょうか?
因果推論モデルの介入: x を直接変更すると、y はどのように変化するでしょうか?
予測コーディングは、局所情報のみを使用して連続状態変数に対してベイズ推論を実行するための神経科学にヒントを得た方法です。
この研究では、ベイズ推論を超えて、予測コーディングの推論プロセスの単純な変更により、因果グラフが既知のシナリオで介入的推論と反事実的推論がどのように可能になるかを示します。
次に、結果を拡張して、このグラフが未知であり、データから推論する必要がある場合に予測コーディングを一般化して、因果関係の発見を行う方法を示します。
その結果、予測コーディングに基づく構造的因果モデルに対してエンドツーエンドの因果推論を実行し、機械学習における潜在的なアプリケーションへの有用性を実証できる、斬新で簡単な手法が誕生しました。

要約(オリジナル)

Bayesian and causal inference are fundamental processes for intelligence. Bayesian inference models observations: what can be inferred about y if we observe a related variable x? Causal inference models interventions: if we directly change x, how will y change? Predictive coding is a neuroscience-inspired method for performing Bayesian inference on continuous state variables using local information only. In this work, we go beyond Bayesian inference, and show how a simple change in the inference process of predictive coding enables interventional and counterfactual inference in scenarios where the causal graph is known. We then extend our results, and show how predictive coding can be generalized to cases where this graph is unknown, and has to be inferred from data, hence performing causal discovery. What results is a novel and straightforward technique that allows us to perform end-to-end causal inference on predictive-coding-based structural causal models, and demonstrate its utility for potential applications in machine learning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google