Fairness-aware Differentially Private Collaborative Filtering

要約

最近、プライバシーを保護する機械学習タスクのための差分プライバシー ガイド付きアルゴリズムの採用が増えています。
ただし、このようなアルゴリズムの使用には、広く認められているアルゴリズムの公平性に関するトレードオフが伴います。
具体的には、差分プライベート確率的勾配降下法 (DP-SGD) によってトレーニングされた従来の協調フィルタリング手法が、さまざまなユーザー エンゲージメント レベルに関してユーザー グループにさまざまな影響を与えることを経験的に観察しました。
これにより、元の不公平なモデルは、非アクティブなユーザーに対してさらに偏ってしまいます。
上記の問題に対処するために、\textbf{DP-Fair} を提案します。これは、協調フィルタリング ベースのアルゴリズムの 2 段階のフレームワークです。
具体的には、差分プライバシー メカニズムと公平性制約を組み合わせて、ユーザーのプライバシーを保護しながら、公平な推奨事項を保証します。
Amazon のデータセットと、最大の e コマース プラットフォームの 1 つである Etsy から収集されたユーザー履歴ログに基づく実験結果は、提案された方法が、浅いレコメンデーションと深いレコメンデーションの両方で、全体的な精度とユーザー グループの公平性の両方の点で優れたパフォーマンスを発揮することを示しています。
バニラ DP-SGD と比較したモデル。

要約(オリジナル)

Recently, there has been an increasing adoption of differential privacy guided algorithms for privacy-preserving machine learning tasks. However, the use of such algorithms comes with trade-offs in terms of algorithmic fairness, which has been widely acknowledged. Specifically, we have empirically observed that the classical collaborative filtering method, trained by differentially private stochastic gradient descent (DP-SGD), results in a disparate impact on user groups with respect to different user engagement levels. This, in turn, causes the original unfair model to become even more biased against inactive users. To address the above issues, we propose \textbf{DP-Fair}, a two-stage framework for collaborative filtering based algorithms. Specifically, it combines differential privacy mechanisms with fairness constraints to protect user privacy while ensuring fair recommendations. The experimental results, based on Amazon datasets, and user history logs collected from Etsy, one of the largest e-commerce platforms, demonstrate that our proposed method exhibits superior performance in terms of both overall accuracy and user group fairness on both shallow and deep recommendation models compared to vanilla DP-SGD.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google