Causal Flow-based Variational Auto-Encoder for Disentangled Causal Representation Learning

要約

解きほぐされた表現学習は、データの低次元表現を学習することを目的としています。各次元は基礎となる生成要因に対応します。
現在、変分自動エンコーダ (VAE) は、もつれ解除表現学習に広く使用されており、ほとんどの方法は生成要素間の独立性を前提としています。
ただし、現実世界のシナリオでは、生成要因は通常、複雑な因果関係を示します。
そこで、我々は、効果的な因果のもつれ解除表現を学習できる、因果フローとして知られる自己回帰フローのバリアントを含む、Disentangled Causal variational Auto-Encoder (DCVAE) という名前の新しい VAE ベースのフレームワークを設計しました。
私たちは、DCVAE のもつれを解く識別可能性の理論的分析を提供し、モデルが因果関係を解く表現を効果的に学習できることを保証します。
DCVAE のパフォーマンスは合成データセットと現実世界のデータセットの両方で評価され、因果関係の解明と介入実験の実行における優れた能力を実証しています。
さらに、DCVAE は下流タスクで顕著なパフォーマンスを示し、要因間の真の因果構造を学習する可能性を秘めています。

要約(オリジナル)

Disentangled representation learning aims to learn low-dimensional representations of data, where each dimension corresponds to an underlying generative factor. Currently, Variational Auto-Encoder (VAE) are widely used for disentangled representation learning, with the majority of methods assuming independence among generative factors. However, in real-world scenarios, generative factors typically exhibit complex causal relationships. We thus design a new VAE-based framework named Disentangled Causal Variational Auto-Encoder (DCVAE), which includes a variant of autoregressive flows known as causal flows, capable of learning effective causal disentangled representations. We provide a theoretical analysis of the disentanglement identifiability of DCVAE, ensuring that our model can effectively learn causal disentangled representations. The performance of DCVAE is evaluated on both synthetic and real-world datasets, demonstrating its outstanding capability in achieving causal disentanglement and performing intervention experiments. Moreover, DCVAE exhibits remarkable performance on downstream tasks and has the potential to learn the true causal structure among factors.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google