Robust Federated Personalised Mean Estimation for the Gaussian Mixture Model

要約

異種のデータとパーソナライズを伴う連合学習は、最近の大きな注目を集めています。
それとは別に、フェデレート学習のコンテキストで破損したデータに対する堅牢性も研究されています。
この論文では、クライアントの一定の部分が破損している不均一なデータのパーソナライズを堅牢性と組み合わせて検討します。
この幅広い問題に動機付けられているため、その困難の一部を捉える簡単なインスタンス化を策定します。
ガウス混合モデルからデータが描かれているパーソナライズされた平均推定の特定の問題に焦点を当てます。
破損したサンプルと腐敗していないサンプルの比率にほぼ直線的に依存するアルゴリズムを与え、一定の因子のギャップがあるにもかかわらず、同じ動作で下限を示します。

要約(オリジナル)

Federated learning with heterogeneous data and personalization has received significant recent attention. Separately, robustness to corrupted data in the context of federated learning has also been studied. In this paper we explore combining personalization for heterogeneous data with robustness, where a constant fraction of the clients are corrupted. Motivated by this broad problem, we formulate a simple instantiation which captures some of its difficulty. We focus on the specific problem of personalized mean estimation where the data is drawn from a Gaussian mixture model. We give an algorithm whose error depends almost linearly on the ratio of corrupted to uncorrupted samples, and show a lower bound with the same behavior, albeit with a gap of a constant factor.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google