Normalizing Flows for Interventional Density Estimation

要約

因果推論のための既存の機械学習方法は、通常、潜在的な結果の平均を介して表される量を推定します (例: 平均治療効果)。
ただし、そのような量は、潜在的な結果の分布に関する完全な情報をキャプチャしません。
この作業では、観察データから介入後の潜在的な結果の密度を推定します。
このために、Interventional Normalizing Flows と呼ばれる新しい完全パラメトリック ディープ ラーニング手法を提案します。
具体的には、2 つの正規化フロー、つまり (i) 迷惑パラメーターを推定するための迷惑フローと、(ii) 潜在的な結果の密度のパラメトリック推定のためのターゲット フローを組み合わせます。
さらに、ターゲット フロー パラメーターの効率的で二重にロバストな推定のためのワンステップ バイアス補正に基づいて、扱いやすい最適化目標を開発します。
その結果、介入的正規化フローは、適切に正規化された密度推定量を提供します。
さまざまな実験を通じて、介入正規化フローが表現力豊かで非常に効果的であり、サンプルサイズと高次元の交絡の両方でうまくスケーリングすることを示しています。
私たちの知る限りでは、介入正規化フローは、潜在的な結果の密度推定のための最初の適切な完全パラメトリック深層学習方法です。

要約(オリジナル)

Existing machine learning methods for causal inference usually estimate quantities expressed via the mean of potential outcomes (e.g., average treatment effect). However, such quantities do not capture the full information about the distribution of potential outcomes. In this work, we estimate the density of potential outcomes after interventions from observational data. For this, we propose a novel, fully-parametric deep learning method called Interventional Normalizing Flows. Specifically, we combine two normalizing flows, namely (i) a nuisance flow for estimating nuisance parameters and (ii) a target flow for a parametric estimation of the density of potential outcomes. We further develop a tractable optimization objective based on a one-step bias correction for an efficient and doubly robust estimation of the target flow parameters. As a result our Interventional Normalizing Flows offer a properly normalized density estimator. Across various experiments, we demonstrate that our Interventional Normalizing Flows are expressive and highly effective, and scale well with both sample size and high-dimensional confounding. To the best of our knowledge, our Interventional Normalizing Flows are the first proper fully-parametric, deep learning method for density estimation of potential outcomes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google