DeSIA: Attribute Inference Attacks Against Limited Fixed Aggregate Statistics

要約

経験的推論攻撃は、実際にデータリリースメカニズムのプライバシーリスクを評価するための一般的なアプローチです。
機械学習モデルまたは合成データリリースを評価するためにアクティブな攻撃文献が存在しますが、現在、限られた数の統計のみがリリースされている場合、固定集計統計の同等の方法がありません。
ここでは、固定集計統計とDESIAと呼ばれる属性推論攻撃に対する推論攻撃フレームワークを提案します。
米国国勢調査PPMFデータセットに対してDesiaをインスタンス化し、再構成ベースの攻撃を強く上回るように表示します。
特に、Desiaが脆弱なユーザーを特定するのに非常に効果的であることを示し、10ドルの誤った陽性率で0.14の真の正のレートを達成します。
次に、DESIAを示して、属性を検証できないユーザーに対してうまく機能し、集約統計の数とノイズのレベルの追加を変更する場合。
また、Desiaの広範なアブレーション研究を実施し、Desiaをメンバーシップ推論タスクにどのようにうまく適合させることができるかを示します。
全体として、我々の結果は、比較的少数の集合体がリリースされている場合でも、集約だけではプライバシーを保護するのに十分ではないことを示しており、集約統計がリリースされる前に正式なプライバシーメカニズムとテストの必要性を強調しています。

要約(オリジナル)

Empirical inference attacks are a popular approach for evaluating the privacy risk of data release mechanisms in practice. While an active attack literature exists to evaluate machine learning models or synthetic data release, we currently lack comparable methods for fixed aggregate statistics, in particular when only a limited number of statistics are released. We here propose an inference attack framework against fixed aggregate statistics and an attribute inference attack called DeSIA. We instantiate DeSIA against the U.S. Census PPMF dataset and show it to strongly outperform reconstruction-based attacks. In particular, we show DeSIA to be highly effective at identifying vulnerable users, achieving a true positive rate of 0.14 at a false positive rate of $10^{-3}$. We then show DeSIA to perform well against users whose attributes cannot be verified and when varying the number of aggregate statistics and level of noise addition. We also perform an extensive ablation study of DeSIA and show how DeSIA can be successfully adapted to the membership inference task. Overall, our results show that aggregation alone is not sufficient to protect privacy, even when a relatively small number of aggregates are being released, and emphasize the need for formal privacy mechanisms and testing before aggregate statistics are released.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google