A Three-Way Knot: Privacy, Fairness, and Predictive Performance Dynamics

要約

機械学習アプリケーションの最前線が人間との対話にさらに移行するにつれて、自動化された意思決定に関して複数の懸念が生じます。
最も重要な問題の 2 つは、公平性とデータ プライバシーです。
一方で、自動化された決定が特定のグループ、特に保護されていない、または疎外されているグループに対して偏っていないことを保証する必要があります。
一方で、個人情報の使用がプライバシー規制に完全に準拠し、ユーザーの身元が安全に保たれるようにする必要があります。
プライバシー、公平性、予測パフォーマンスのバランスは複雑です。
しかし、潜在的な社会的影響にもかかわらず、これらの最適化ベクトル間のダイナミクスについてはまだ十分な理解が得られていません。
この論文では、安全なアプリケーションの将来の開発に情報を提供することを目的として、この 3 方向の緊張と、各ベクトルの最適化が他のベクトルにどのような影響を与えるかを研究します。
予測パフォーマンスと公平性を同時に最適化できるという主張を考慮すると、これはデータ プライバシーを犠牲にしてのみ可能であることがわかります。
全体として、実験結果は、3 つのベクトルのどれを最適化したかに関係なく、ベクトルの 1 つがペナルティを受けることを示しています。
それにもかかわらず、私たちは、3 つのベクトル間で小さなトレードオフが観察される共同最適化ソリューションにおける将来の研究に有望な道を見出しました。

要約(オリジナル)

As the frontier of machine learning applications moves further into human interaction, multiple concerns arise regarding automated decision-making. Two of the most critical issues are fairness and data privacy. On the one hand, one must guarantee that automated decisions are not biased against certain groups, especially those unprotected or marginalized. On the other hand, one must ensure that the use of personal information fully abides by privacy regulations and that user identities are kept safe. The balance between privacy, fairness, and predictive performance is complex. However, despite their potential societal impact, we still demonstrate a poor understanding of the dynamics between these optimization vectors. In this paper, we study this three-way tension and how the optimization of each vector impacts others, aiming to inform the future development of safe applications. In light of claims that predictive performance and fairness can be jointly optimized, we find this is only possible at the expense of data privacy. Overall, experimental results show that one of the vectors will be penalized regardless of which of the three we optimize. Nonetheless, we find promising avenues for future work in joint optimization solutions, where smaller trade-offs are observed between the three vectors.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google