Causal Representation Learning from Multiple Distributions: A General Setting

要約

多くの問題では、測定された変数 (画像ピクセルなど) は、隠れた因果変数 (基礎となる概念やオブジェクトなど) の単なる数学関数です。
変化する環境で予測を行ったり、システムに適切な変更を加えたりする目的では、隠れた因果変数 $Z_i$ とグラフ $\mathcal{G}_Z$ で表されるそれらの因果関係を回復すると役立ちます。
この問題は最近、因果表現学習として知られています。
この論文は、分布の変化の背後にあるハード介入を想定せずに、(異種データまたは非定常時系列から生じる)複数の分布から学習する因果表現の一般的で完全にノンパラメトリックな設定に関係しています。
私たちは、この基本的なケースにおける一般的な解決策を開発することを目指しています。
これは副産物として、パラメトリック因果モデルやハード介入などの他の仮定によってもたらされる独自の利点を確認するのに役立ちます。
潜在変数に対する回復されたグラフのスパース性制約と、因果関係の適切な十分な変化条件の下で、興味深いことに、基礎となる有向非巡回グラフの道徳化されたグラフを回復でき、回復された潜在変数とそれらの関係が関連していることを示します。
特定の自明ではない方法で、基礎となる因果モデルに影響を与えます。
場合によっては、各潜在変数をコンポーネントごとの変換まで回復することもできます。
実験結果は私たちの理論的主張を裏付けています。

要約(オリジナル)

In many problems, the measured variables (e.g., image pixels) are just mathematical functions of the hidden causal variables (e.g., the underlying concepts or objects). For the purpose of making predictions in changing environments or making proper changes to the system, it is helpful to recover the hidden causal variables $Z_i$ and their causal relations represented by graph $\mathcal{G}_Z$. This problem has recently been known as causal representation learning. This paper is concerned with a general, completely nonparametric setting of causal representation learning from multiple distributions (arising from heterogeneous data or nonstationary time series), without assuming hard interventions behind distribution changes. We aim to develop general solutions in this fundamental case; as a by product, this helps see the unique benefit offered by other assumptions such as parametric causal models or hard interventions. We show that under the sparsity constraint on the recovered graph over the latent variables and suitable sufficient change conditions on the causal influences, interestingly, one can recover the moralized graph of the underlying directed acyclic graph, and the recovered latent variables and their relations are related to the underlying causal model in a specific, nontrivial way. In some cases, each latent variable can even be recovered up to component-wise transformations. Experimental results verify our theoretical claims.

arxiv情報

著者 Kun Zhang,Shaoan Xie,Ignavier Ng,Yujia Zheng
発行日 2024-02-07 17:51:38+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク