Personalized Multi-tier Federated Learning

要約

パーソナライズされたフェデレーテッド ラーニング (PerFL) の主な課題は、安価な通信でデータの統計的異質性特性を捕捉し、参加デバイス向けにカスタマイズされたパフォーマンスを獲得することです。
これらに対処するために、デバイス間で既知のチーム構造がある場合に、最適化およびパーソナライズされたローカル モデルを取得するために、多層アーキテクチャでのパーソナライズされたフェデレーテッド ラーニング (PerMFL) を導入しました。
PerMFL の理論的保証は、滑らかな強凸問題に対しては線形収束率を、滑らかな非凸問題に対しては準線形収束率を提供します。
私たちは数値実験を実施し、PerMFL の堅牢な経験的パフォーマンスを実証し、複数のパーソナライズされたフェデレーテッド ラーニング タスクにおいて最先端のパフォーマンスを上回っています。

要約(オリジナル)

The key challenge of personalized federated learning (PerFL) is to capture the statistical heterogeneity properties of data with inexpensive communications and gain customized performance for participating devices. To address these, we introduced personalized federated learning in multi-tier architecture (PerMFL) to obtain optimized and personalized local models when there are known team structures across devices. We provide theoretical guarantees of PerMFL, which offers linear convergence rates for smooth strongly convex problems and sub-linear convergence rates for smooth non-convex problems. We conduct numerical experiments demonstrating the robust empirical performance of PerMFL, outperforming the state-of-the-art in multiple personalized federated learning tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google