Optimal Federated Learning for Functional Mean Estimation under Heterogeneous Privacy Constraints

要約

フェデレーテッド ラーニング (FL) は、データのプライバシーとセキュリティを保護するために設計された分散機械学習技術であり、その応用範囲が広いため、非常に重要性が高まっています。
この論文では、連合設定で離散的にサンプリングされたデータから最適な関数平均を推定する問題を取り上げます。
私たちは、共通の設計設定と独立した設計設定の両方で、個人の数、個人ごとの測定値、およびプライバシー パラメーターが 1 つ以上のサーバー間で異なる異種フレームワークを検討します。
共通の設計設定では、各個人に対して同じ設計点が測定されますが、独立した設計では、各個人が独自のランダムな設計点の集合を持ちます。
このフレームワーク内で、基礎となる平均関数の推定誤差のミニマックス上限と下限を確立し、分散型プライバシー制約の下での共通設計と独立した設計の微妙な違いを強調します。
私たちは、プライバシーと精度の間の最適なトレードオフを達成するアルゴリズムを提案し、多様な分散設定にわたるプライベート関数平均推定の基本的な制限を定量化する最適性の結果を提供します。
これらの結果は、プライバシーのコストを特徴づけ、フェデレーション環境におけるプライバシー保護統計分析の可能性についての実践的な洞察を提供します。

要約(オリジナル)

Federated learning (FL) is a distributed machine learning technique designed to preserve data privacy and security, and it has gained significant importance due to its broad range of applications. This paper addresses the problem of optimal functional mean estimation from discretely sampled data in a federated setting. We consider a heterogeneous framework where the number of individuals, measurements per individual, and privacy parameters vary across one or more servers, under both common and independent design settings. In the common design setting, the same design points are measured for each individual, whereas in the independent design, each individual has their own random collection of design points. Within this framework, we establish minimax upper and lower bounds for the estimation error of the underlying mean function, highlighting the nuanced differences between common and independent designs under distributed privacy constraints. We propose algorithms that achieve the optimal trade-off between privacy and accuracy and provide optimality results that quantify the fundamental limits of private functional mean estimation across diverse distributed settings. These results characterize the cost of privacy and offer practical insights into the potential for privacy-preserving statistical analysis in federated environments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google