Dynamic Privacy Allocation for Locally Differentially Private Federated Learning with Composite Objectives

要約

この論文では、正直だが好奇心旺盛なサーバーから各ワーカーの勾配を保護する、凸性が強いが滑らかではない可能性がある問題に対する、ローカル差分プライベート連合学習アルゴリズムを提案します。
提案されたアルゴリズムは、共有情報に人工ノイズを追加してプライバシーを確​​保し、時間とともに変化するノイズ分散を動的に割り当てて、事前定義されたプライバシー予算制約の対象となる最適化誤差の上限を最小限に抑えます。
これにより、最適解の近傍までのプライバシー保護と実用性の両方を達成するために、任意に大きいが有限の反復回数が可能になり、反復回数を調整する必要がなくなります。
数値結果は、提案されたアルゴリズムが最先端の方法よりも優れていることを示しています。

要約(オリジナル)

This paper proposes a locally differentially private federated learning algorithm for strongly convex but possibly nonsmooth problems that protects the gradients of each worker against an honest but curious server. The proposed algorithm adds artificial noise to the shared information to ensure privacy and dynamically allocates the time-varying noise variance to minimize an upper bound of the optimization error subject to a predefined privacy budget constraint. This allows for an arbitrarily large but finite number of iterations to achieve both privacy protection and utility up to a neighborhood of the optimal solution, removing the need for tuning the number of iterations. Numerical results show the superiority of the proposed algorithm over state-of-the-art methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google