Normalizing Flows for Interventional Density Estimation

要約

因果推論のための既存の機械学習手法は、通常、潜在的な結果 (平均治療効果など) の平均を介して表現される量を推定します。
ただし、このような量では、潜在的な結果の分布に関する完全な情報が得られるわけではありません。
この研究では、観察データから介入後の潜在的な結果の密度を推定します。
このために、私たちは介入正規化フローと呼ばれる新しいフルパラメトリック深層学習手法を提案します。
具体的には、2 つの正規化フロー、つまり (i) 迷惑パラメータを推定する迷惑フローと、(ii) 潜在的な結果の密度をパラメトリック推定するターゲット フローを組み合わせます。
さらに、ターゲット流量パラメータを効率的かつ二重にロバストに推定するための、ワンステップのバイアス補正に基づいた扱いやすい最適化目標を開発します。
その結果、当社の介入正規化フローは、適切に正規化された密度推定量を提供します。
さまざまな実験を通じて、介入正規化フローが表現力豊かで非常に効果的であり、サンプル サイズと高次元交絡の両方にうまく対応できることを実証しました。
私たちの知る限り、介入正規化フローは、潜在的な結果の密度推定のための最初の適切なフルパラメトリックな深層学習手法です。

要約(オリジナル)

Existing machine learning methods for causal inference usually estimate quantities expressed via the mean of potential outcomes (e.g., average treatment effect). However, such quantities do not capture the full information about the distribution of potential outcomes. In this work, we estimate the density of potential outcomes after interventions from observational data. For this, we propose a novel, fully-parametric deep learning method called Interventional Normalizing Flows. Specifically, we combine two normalizing flows, namely (i) a nuisance flow for estimating nuisance parameters and (ii) a target flow for parametric estimation of the density of potential outcomes. We further develop a tractable optimization objective based on a one-step bias correction for efficient and doubly robust estimation of the target flow parameters. As a result, our Interventional Normalizing Flows offer a properly normalized density estimator. Across various experiments, we demonstrate that our Interventional Normalizing Flows are expressive and highly effective, and scale well with both sample size and high-dimensional confounding. To the best of our knowledge, our Interventional Normalizing Flows are the first proper fully-parametric, deep learning method for density estimation of potential outcomes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google