Prediction under Latent Subgroup Shifts with High-Dimensional Observations

要約

我々は、潜在シフト適応、つまり、観測されていない交絡潜在変数の分布においてソース環境とターゲット環境が異なる場合の、グラフィカルモデルにおける予測への新しいアプローチを導入します。
これまでの研究では、適切な依存関係を持つ「コンセプト」変数と「プロキシ」変数がソース環境で観察される限り、潜在的に関連する分布変化を特定し、ターゲット予測を正確に適応できることが示されています。
ただし、実際の推定方法は、交絡潜在力がカテゴリカルであっても、観測値が複雑で高次元である場合には適切に拡張できません。
ここでは、画像観察から低次元の離散潜在を回復するために、最近提案された確率的教師なし学習フレームワークである認識パラメータ化モデル (RPM) に基づいて構築します。
潜在的なシフトの問題に適用された、私たちの新しい形式の RPM は、ソース環境内の因果関係のある潜在的な構造を特定し、ターゲット内の予測に適切に適応します。
予測子とプロキシが高次元画像であり、以前の方法では拡張できないコンテキストである設定での結果を示します。

要約(オリジナル)

We introduce a new approach to prediction in graphical models with latent-shift adaptation, i.e., where source and target environments differ in the distribution of an unobserved confounding latent variable. Previous work has shown that as long as ‘concept’ and ‘proxy’ variables with appropriate dependence are observed in the source environment, the latent-associated distributional changes can be identified, and target predictions adapted accurately. However, practical estimation methods do not scale well when the observations are complex and high-dimensional, even if the confounding latent is categorical. Here we build upon a recently proposed probabilistic unsupervised learning framework, the recognition-parametrised model (RPM), to recover low-dimensional, discrete latents from image observations. Applied to the problem of latent shifts, our novel form of RPM identifies causal latent structure in the source environment, and adapts properly to predict in the target. We demonstrate results in settings where predictor and proxy are high-dimensional images, a context to which previous methods fail to scale.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google