Private Mean Estimation with Person-Level Differential Privacy

要約

各人が複数のサンプルを保持している場合の個人レベルの差分プライベート (DP) 平均推定を研究します。
ここでの DP は、個人のデータポイントの $\textit{all}$ が変更される可能性がある場合の、分布の安定性に関する通常の概念を必要とします。
非公式には、$n$ 人がそれぞれ、$k$ 番目のモーメントが制限された未知の $d$ 次元分布からの $m$ サンプルを持っている場合、距離 $\alpha$ までの平均を推定するのに必要かつ十分であることがわかります。
$\varepsilon$-差分プライバシー (およびその一般的な緩和) の下で $\ell_2$-norm において。
多変量設定では、近似 DP では計算効率の高いアルゴリズムを与え、純粋 DP では計算効率の悪いアルゴリズムを与え、ほぼ一致する下限は近似 DP の最も許容的なケースに当てはまります。
計算効率の高い推定器は標準のクリップ アンド ノイズ フレームワークに基づいていますが、設定の分析には新しいアルゴリズム手法と新しい分析の両方が必要です。
特に、独立したベクトル値の有界モーメント確率変数の合計の裾の新しい境界は興味深いかもしれません。
\[n = \tilde \Theta\left(\frac{d}{\alpha^2 m} + \frac{d}{\alpha m^{1/2} \varepsilon} + \frac{d}{\
alpha^{k/(k-1)} m \varepsilon} + \frac{d}{\varepsilon}\right)\]

要約(オリジナル)

We study person-level differentially private (DP) mean estimation in the case where each person holds multiple samples. DP here requires the usual notion of distributional stability when $\textit{all}$ of a person’s datapoints can be modified. Informally, if $n$ people each have $m$ samples from an unknown $d$-dimensional distribution with bounded $k$-th moments, we show that people are necessary and sufficient to estimate the mean up to distance $\alpha$ in $\ell_2$-norm under $\varepsilon$-differential privacy (and its common relaxations). In the multivariate setting, we give computationally efficient algorithms under approximate-DP and computationally inefficient algorithms under pure DP, and our nearly matching lower bounds hold for the most permissive case of approximate DP. Our computationally efficient estimators are based on the standard clip-and-noise framework, but the analysis for our setting requires both new algorithmic techniques and new analyses. In particular, our new bounds on the tails of sums of independent, vector-valued, bounded-moments random variables may be of interest. \[n = \tilde \Theta\left(\frac{d}{\alpha^2 m} + \frac{d}{\alpha m^{1/2} \varepsilon} + \frac{d}{\alpha^{k/(k-1)} m \varepsilon} + \frac{d}{\varepsilon}\right)\]

arxiv情報

提供元, 利用サービス

arxiv.jp, Google