On the Impact of Multi-dimensional Local Differential Privacy on Fairness

要約

自動化された意思決定システムは、人々の生活における重大な意思決定を行うためにますます使用されています。
操作されたデータとその結果得られる決定は機密性が高いため、このようなテクノロジーを適切に使用するには、いくつかの倫理的懸念、特に公平性とプライバシーに対処する必要があります。
単一の機密属性に対する集中型差分プライバシー (DP) またはローカル DP (LDP) に焦点を当てた以前の研究とは異なり、この論文では、複数の機密属性 (つまり、多次元データ) が存在する場合のLDP の影響を検証します。
公平性について。
合成データセットとベンチマーク データセットの詳細な実証分析により、非常に関連性の高い観察結果が明らかになりました。
特に、(1) 多次元LDPは格差を縮小するための効率的なアプローチである、(2)LDPの多次元アプローチ(独立対複合)は、プライバシーの保証が低い場合にのみ問題となる、(3) Y分布がもたらす結果
これは、どのグループが難読化に対してより敏感であるかに重要な影響を与えます。
最後に、ML アプリケーションの公平性と実用性を維持しながら、実践者が効果的なプライバシー保護手法を採用できるように、調査結果を推奨事項の形でまとめます。

要約(オリジナル)

Automated decision systems are increasingly used to make consequential decisions in people’s lives. Due to the sensitivity of the manipulated data as well as the resulting decisions, several ethical concerns need to be addressed for the appropriate use of such technologies, in particular, fairness and privacy. Unlike previous work, which focused on centralized differential privacy (DP) or local DP (LDP) for a single sensitive attribute, in this paper, we examine the impact of LDP in the presence of several sensitive attributes (i.e., multi-dimensional data) on fairness. Detailed empirical analysis on synthetic and benchmark datasets revealed very relevant observations. In particular, (1) multi-dimensional LDP is an efficient approach to reduce disparity, (2) the multi-dimensional approach of LDP (independent vs. combined) matters only at low privacy guarantees, and (3) the outcome Y distribution has an important effect on which group is more sensitive to the obfuscation. Last, we summarize our findings in the form of recommendations to guide practitioners in adopting effective privacy-preserving practices while maintaining fairness and utility in ML applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google