Individual Privacy Accounting with Gaussian Differential Privacy

要約

個別のプライバシー アカウンティングにより、分析に関与する各参加者に対して個別に境界差分プライバシー (DP) 損失が可能になります。
多くの場合、個々のプライバシーの損失は、各データ アクセスにおける最悪の場合の境界の考慮に基づく DP 境界によって示される損失よりもかなり小さいため、これは有益です。
原則的な方法で個々のプライバシーの損失を説明するには、特定のデータアクセスで発生する損失が最悪の場合の損失よりも小さくなるように許容される、ランダム化されたメカニズムの適応的な構成のためのプライバシー会計担当者が必要です。
この種の分析は、Feldman と Zrnic (2021) によって R\’enyi 差分プライバシー (RDP) に対して実行されましたが、いわゆる最適プライバシー会計士に対してはまだ行われていません。
最も汎用性の高い DP メカニズムの 1 つであるガウス メカニズムに最適な境界を与えるガウス差分プライバシーを使用した慎重な分析を提供することで、この方向への最初の一歩を踏み出します。
このアプローチは、ホッケースティック発散に対する特定のスーパーマルチンゲールの決定と、Feldman と Zrnic による R\’enyi 発散ベースの完全適応合成結果の拡張に基づいています。
また、いわゆるプライバシー損失分布を使用して、個々の $(\varepsilon,\delta)$-プライバシー損失を測定することも検討します。
ブラックウェルの定理の助けを借りて、RDP 分析を利用して、近似的な個別の $(\varepsilon,\delta)$-accountant を構築できます。

要約(オリジナル)

Individual privacy accounting enables bounding differential privacy (DP) loss individually for each participant involved in the analysis. This can be informative as often the individual privacy losses are considerably smaller than those indicated by the DP bounds that are based on considering worst-case bounds at each data access. In order to account for the individual privacy losses in a principled manner, we need a privacy accountant for adaptive compositions of randomised mechanisms, where the loss incurred at a given data access is allowed to be smaller than the worst-case loss. This kind of analysis has been carried out for the R\’enyi differential privacy (RDP) by Feldman and Zrnic (2021), however not yet for the so-called optimal privacy accountants. We make first steps in this direction by providing a careful analysis using the Gaussian differential privacy which gives optimal bounds for the Gaussian mechanism, one of the most versatile DP mechanisms. This approach is based on determining a certain supermartingale for the hockey-stick divergence and on extending the R\’enyi divergence-based fully adaptive composition results by Feldman and Zrnic. We also consider measuring the individual $(\varepsilon,\delta)$-privacy losses using the so-called privacy loss distributions. With the help of the Blackwell theorem, we can then make use of the RDP analysis to construct an approximative individual $(\varepsilon,\delta)$-accountant.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google