CF-VAE: Causal Disentangled Representation Learning with VAE and Causal Flows

要約

【タイトル】VAEおよび因果フローによる因果的な分離表現学習

【要約】

– 学習では、低次元表現によるデータ表現学習は、各次元が下位生成要因の1つに対応するように目指されています。
– 生成要因の間に因果関係が存在する可能性があるため、因果的分離表現学習は広く注目されています。
– 本研究では、因果構造情報をモデルに組み込むことができる新しい流れ、因果フローを提案する。
– 分離表現学習で一般的に使用される変分オートエンコーダー(VAE)をベースに、因果フローを利用して、VAEエンコーダーの分離能力を向上させた新しいモデル、CF-VAEを設計する。
– さらに、グランドトゥルース因子の監督を導入することで、モデルの分離可能性を示す。
– 合成データセットと実データセットの両方での実験結果から、CF-VAEは因果的分離を実現し、介入実験を実行できることが示された。
– さらに、CF-VAEは下流タスクで優れた結果を示し、下位生成因子の因果構造を学習する可能性がある。

要約(オリジナル)

Learning disentangled representations is important in representation learning, aiming to learn a low dimensional representation of data where each dimension corresponds to one underlying generative factor. Due to the possibility of causal relationships between generative factors, causal disentangled representation learning has received widespread attention. In this paper, we first propose new flows that can incorporate causal structure information into the model, called causal flows. Based on the variational autoencoders(VAE) commonly used in disentangled representation learning, we design a new model, CF-VAE, which enhances the disentanglement ability of the VAE encoder by utilizing the causal flows. By further introducing the supervision of ground-truth factors, we demonstrate the disentanglement identifiability of our model. Experimental results on both synthetic and real datasets show that CF-VAE can achieve causal disentanglement and perform intervention experiments. Moreover, CF-VAE exhibits outstanding performance on downstream tasks and has the potential to learn causal structure among factors.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI