Temporally Disentangled Representation Learning under Unknown Nonstationarity

要約

時間遅延した潜在的な因果影響を持つ連続データの教師なし因果表現学習では、時間構造を活用することにより、因果関係のある潜在変数のもつれを解くための強力な識別可能性の結果が定常的な設定で確立されています。
しかし、非定常設定では、既存の研究は、観測された補助変数 (クラスラベルやドメインインデックスなど) を副次情報として利用するか、単純化された潜在因果力学を仮定することによって、部分的にしか問題に対処していませんでした。
どちらも、この方法が限られた範囲のシナリオに限定されます。
この研究では、非定常設定における時間遅延因果関係プロセスの下でマルコフ仮定をさらに調査し、温和な条件下では、独立した潜在成分が非線形混合から順列および成分ごとの変換まで回復できることを示しました。
補助変数の観察。
次に、時間遅延した潜在因果変数を再構築し、測定された逐次データのみからそれらの関係を特定するための原則的な推定フレームワークである NCTRL を導入します。
経験的評価により、時間遅延による潜在的な因果関係を確実に特定できることが実証され、私たちの方法論は、非定常性を適切に活用できず、その結果、分布の変化を区別できない既存のベースラインを大幅に上回りました。

要約(オリジナル)

In unsupervised causal representation learning for sequential data with time-delayed latent causal influences, strong identifiability results for the disentanglement of causally-related latent variables have been established in stationary settings by leveraging temporal structure. However, in nonstationary setting, existing work only partially addressed the problem by either utilizing observed auxiliary variables (e.g., class labels and/or domain indexes) as side information or assuming simplified latent causal dynamics. Both constrain the method to a limited range of scenarios. In this study, we further explored the Markov Assumption under time-delayed causally related process in nonstationary setting and showed that under mild conditions, the independent latent components can be recovered from their nonlinear mixture up to a permutation and a component-wise transformation, without the observation of auxiliary variables. We then introduce NCTRL, a principled estimation framework, to reconstruct time-delayed latent causal variables and identify their relations from measured sequential data only. Empirical evaluations demonstrated the reliable identification of time-delayed latent causal influences, with our methodology substantially outperforming existing baselines that fail to exploit the nonstationarity adequately and then, consequently, cannot distinguish distribution shifts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google