RAIFLE: Reconstruction Attacks on Interaction-based Federated Learning with Active Data Manipulation

要約

フェデレーション ラーニング (FL) は、ユーザー インタラクションに依存するドメイン、特にレコメンダー システム (RS) やオンライン ラーニング トゥ ランク (OLTR) に依存するドメインにおける機械学習のプライバシー保護アプローチとして最近登場しました。
従来の FL のプライバシーについてはかなりの研究が行われてきましたが、これらのインタラクションベースの FL (IFL) システムのプライバシー特性の研究にはほとんど注意が払われてきませんでした。
この研究では、特に中央サーバーがユーザーが操作するアイテムに対する知識と制御を持っている場合に、IFL がユーザーのプライバシーに関する独特の課題を引き起こす可能性があることを示します。
具体的には、IFL 用にカスタマイズされた一般的な最適化ベースの再構築攻撃フレームワークである RAIFLE を提示することで、ユーザー インタラクションを再構築する脅威を実証します。
RAIFLE は、IFL に特有の新しい攻撃手法であるアクティブ データ操作 (ADM) を採用しており、サーバーがアイテムのトレーニング機能をアクティブに操作して、ローカル FL 更新で敵対的な動作を誘発します。
RAIFLE が IFL コンテキストにおける既存の FL プライバシー攻撃よりも影響力が大きいことを示し、RAIFLE が安全な集約や個人情報の取得などのプライバシー防御をどのように損なう可能性があるかを説明します。
調査結果に基づいて、特にフェデレーテッド RS/OLTR およびより広範な IFL のコンテキストで攻撃を軽減するための対策ガイドラインを提案し、議論します。

要約(オリジナル)

Federated learning (FL) has recently emerged as a privacy-preserving approach for machine learning in domains that rely on user interactions, particularly recommender systems (RS) and online learning to rank (OLTR). While there has been substantial research on the privacy of traditional FL, little attention has been paid to studying the privacy properties of these interaction-based FL (IFL) systems. In this work, we show that IFL can introduce unique challenges concerning user privacy, particularly when the central server has knowledge and control over the items that users interact with. Specifically, we demonstrate the threat of reconstructing user interactions by presenting RAIFLE, a general optimization-based reconstruction attack framework customized for IFL. RAIFLE employs Active Data Manipulation (ADM), a novel attack technique unique to IFL, where the server actively manipulates the training features of the items to induce adversarial behaviors in the local FL updates. We show that RAIFLE is more impactful than existing FL privacy attacks in the IFL context, and describe how it can undermine privacy defenses like secure aggregation and private information retrieval. Based on our findings, we propose and discuss countermeasure guidelines to mitigate our attack in the context of federated RS/OLTR specifically and IFL more broadly.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google