Towards Model-Agnostic Federated Learning over Networks

要約

不均一なデータとモデルのネットワークのためのモデルに依存しないフェデレーション学習方法を提示します。
ネットワーク構造は、ローカルデータセットとそれに関連するローカル（個人）モデルとの間の類似性を反映しています。
私たちの方法は、データのネットワーク構造から派生した正則化の用語を備えた経験的リスク最小化のインスタンスです。
特に、クラスターを形成する適切に接続されたローカルモデルが必要であり、共有されたパブリックの非標識データセットで同様の予測を生成します。
提案された方法により、幅広いローカルモデルが可能になります。
唯一の制限は、これらのローカルモデルが正規化された経験的リスク最小化（トレーニング）の効率的な実装を可能にする必要があることです。
多くのモデルでは、このような実装は、Scikit-Learn、Keras、Pytorchなどの高レベルのプログラミングライブラリですぐに利用できます。

要約(オリジナル)

We present a model-agnostic federated learning method for networks of heterogeneous data and models. The network structure reflects similarities between the (statistics of the) local datasets and, in turn, their associated local (personal) models. Our method is an instance of empirical risk minimization, with a regularization term derived from the network structure of the data. In particular, we require well-connected local models, which form clusters, to yield similar predictions on shared public, unlabelled dataset(s). The proposed method allows for a wide range of local models. The only restriction is that these local models must allow for efficient implementation of regularized empirical risk minimization (training). For many models, such implementations are readily available in high-level programming libraries, including scikit-learn, Keras, and PyTorch.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google