Confidential Federated Computations

要約

Federated Learning and Analytics (FLA) は、機密性の高いオンデバイス データを処理するテクノロジー プラットフォームで広く採用されています。
ただし、基本的な FLA システムにはプライバシーの制限があります。差分プライバシー (DP) のような匿名化メカニズムは必ずしも必要ではなく、悪意のある可能性のあるサービス プロバイダーに対する保護は限定的です。
現在、基本的な FLA システムに DP を追加するには、各デバイスのアップデートに過度のノイズを追加するか、メカニズムを正しく実装し、プライベート化された出力のみを使用する誠実なサービス プロバイダーを想定する必要があります。
Secure multiparty computation (SMPC) ベースのオブリビアス アグリゲーションは、サービス プロバイダーによる個々のユーザーの更新へのアクセスを制限し、DP のトレードオフを改善できますが、トレードオフは依然として最適ではなく、スケーラビリティの課題と Sybil 攻撃の影響を受けやすいという問題があります。
このペーパーでは、信頼された実行環境 (TEE) とオープンソースを活用して、サーバー側の計算の機密性を確保し、外部で検証可能なプライバシー プロパティを提供し、プライベート フェデレーテッド コンピューティングの堅牢性と信頼性を強化する、新しいシステム アーキテクチャを紹介します。

要約(オリジナル)

Federated Learning and Analytics (FLA) have seen widespread adoption by technology platforms for processing sensitive on-device data. However, basic FLA systems have privacy limitations: they do not necessarily require anonymization mechanisms like differential privacy (DP), and provide limited protections against a potentially malicious service provider. Adding DP to a basic FLA system currently requires either adding excessive noise to each device’s updates, or assuming an honest service provider that correctly implements the mechanism and only uses the privatized outputs. Secure multiparty computation (SMPC) -based oblivious aggregations can limit the service provider’s access to individual user updates and improve DP tradeoffs, but the tradeoffs are still suboptimal, and they suffer from scalability challenges and susceptibility to Sybil attacks. This paper introduces a novel system architecture that leverages trusted execution environments (TEEs) and open-sourcing to both ensure confidentiality of server-side computations and provide externally verifiable privacy properties, bolstering the robustness and trustworthiness of private federated computations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google