About the Cost of Global Privacy in Density Estimation

要約

私たちは、リプシッツ空間とソボレフ空間における、グローバルプライバシーの下での密度のノンパラメトリック密度推定を研究しています。
特に、プライバシー予算が一定であると想定されていない制度を調査します。
我々は、グローバル差分プライバシーの古典的な定義だけでなく、グローバル集中差分プライバシーというより最近の概念も考慮します。
私たちは、ヒストグラム推定量が L2 リスクのリプシッツ分布に対して、通常の差分プライバシーの下で最適であると述べた Barber \& Duchi (2014) の結果を復元し、それをプライバシーの他の規範や概念に拡張します。
次に、より高度な平滑性を調査し、2 つの結論を導き出します。 まず、一定のプライバシー予算で何が起こるか (Wasserman \& Zhou, 2010) とは反対に、プライバシーを課すことにより、ソボレフ密度の推定における通常のミニマックス リスクが低下する体制が存在します。
第 2 に、いわゆる投影推定量は、純粋な差分プライバシーを備えたこの新しい設定では、同じクラスの密度に対してほぼ最適ですが、一定のプライバシー予算のケースとは対照的に、緩和という犠牲が伴います。
ゼロ集中差分プライバシーでは緩和の必要がなく、推定が最適であることが証明されます。

要約(オリジナル)

We study non-parametric density estimation for densities in Lipschitz and Sobolev spaces, and under global privacy. In particular, we investigate regimes where the privacy budget is not supposed to be constant. We consider the classical definition of global differential privacy, but also the more recent notion of global concentrated differential privacy. We recover the result of Barber \& Duchi (2014) stating that histogram estimators are optimal against Lipschitz distributions for the L2 risk, and under regular differential privacy, and we extend it to other norms and notions of privacy. Then, we investigate higher degrees of smoothness, drawing two conclusions: First, and contrary to what happens with constant privacy budget (Wasserman \& Zhou, 2010), there are regimes where imposing privacy degrades the regular minimax risk of estimation on Sobolev densities. Second, so-called projection estimators are near-optimal against the same classes of densities in this new setup with pure differential privacy, but contrary to the constant privacy budget case, it comes at the cost of relaxation. With zero concentrated differential privacy, there is no need for relaxation, and we prove that the estimation is optimal.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google