Deciphering the Interplay between Local Differential Privacy, Average Bayesian Privacy, and Maximum Bayesian Privacy

要約

機械学習の急速な進化により、ローカル差分プライバシー (LDP) の概念など、機械学習がプライバシーにもたらす脅威のため、プライバシーのさまざまな定義が出現しました。
プライバシーを測定するためのこの従来のアプローチは、多くの分野で広く受け入れられ利用されていますが、推論開示の防止の失敗から敵対者の背景知識の考慮の欠如まで、依然として一定の限界を示しています。
この包括的な研究では、ベイズ主義のプライバシーを紹介し、LDP とそれに対応するベイズ主義者の間の複雑な関係を掘り下げ、ユーティリティとプライバシーのトレードオフについての新しい洞察を明らかにします。
攻撃戦略と防御戦略の両方をカプセル化し、それらの相互作用と有効性を強調するフレームワークを紹介します。
まず、LDP と最大ベイジアン プライバシー (MBP) の関係が明らかになり、一様な事前分布の下では $\xi$-LDP を満たすメカニズムは $\xi$-MBP も満たし、逆に $\xi$-MBP も 2 を与えることが示されます。
$\xi$-自民党。
私たちの次の理論的貢献は、方程式 $\epsilon_{p,a} \leq \frac{1}{\sqrt{2
}}\sqrt{(\epsilon_{p,m} + \epsilon)\cdot(e^{\epsilon_{p,m} + \epsilon} – 1)}$。
これらの関係により、さまざまなメカニズムによって提供されるプライバシーの保証についての理解が強化されます。
私たちの研究は、将来の実証的探査のための基礎を築くだけでなく、プライバシー保護アルゴリズムの設計を促進し、それによって信頼できる機械学習ソリューションの開発を促進することも約束します。

要約(オリジナル)

The swift evolution of machine learning has led to emergence of various definitions of privacy due to the threats it poses to privacy, including the concept of local differential privacy (LDP). Although widely embraced and utilized across numerous domains, this conventional approach to measure privacy still exhibits certain limitations, spanning from failure to prevent inferential disclosure to lack of consideration for the adversary’s background knowledge. In this comprehensive study, we introduce Bayesian privacy and delve into the intricate relationship between LDP and its Bayesian counterparts, unveiling novel insights into utility-privacy trade-offs. We introduce a framework that encapsulates both attack and defense strategies, highlighting their interplay and effectiveness. The relationship between LDP and Maximum Bayesian Privacy (MBP) is first revealed, demonstrating that under uniform prior distribution, a mechanism satisfying $\xi$-LDP will satisfy $\xi$-MBP and conversely $\xi$-MBP also confers 2$\xi$-LDP. Our next theoretical contribution are anchored in the rigorous definitions and relationships between Average Bayesian Privacy (ABP) and Maximum Bayesian Privacy (MBP), encapsulated by equations $\epsilon_{p,a} \leq \frac{1}{\sqrt{2}}\sqrt{(\epsilon_{p,m} + \epsilon)\cdot(e^{\epsilon_{p,m} + \epsilon} – 1)}$. These relationships fortify our understanding of the privacy guarantees provided by various mechanisms. Our work not only lays the groundwork for future empirical exploration but also promises to facilitate the design of privacy-preserving algorithms, thereby fostering the development of trustworthy machine learning solutions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google