Benchmarking federated strategies in Peer-to-Peer Federated learning for biomedical data

要約

データ保護とプライバシーに対する要件の高まりにより、分散型人工知能、特に独自のプライベート データを保持する複数の参加者間でモデルを構築できる新しい機械学習アプローチであるフェデレーテッド ラーニングに関する研究に大きな関心が集まっています。
フェデレーション ラーニングの最初の提案では、アーキテクチャは集中化され、集計はフェデレーテッド平均化によって行われました。これは、中央サーバーが最も単純な平均化戦略を使用してフェデレーションを調整することを意味します。
この研究は、ピアツーピア環境でさまざまなフェデレーション戦略をテストすることに焦点を当てています。
著者らは、参加者の貢献度に基づいたさまざまな要素と戦略を使用した、加重平均集計など、フェデレーテッド ラーニングのためのさまざまな集計戦略を提案しています。
戦略はさまざまなデータ サイズでテストされ、最も堅牢な戦略が特定されます。
この研究では、いくつかの生物医学データセットを使用して戦略をテストし、実験の結果は、精度に基づく加重平均が従来の連合平均法よりも優れていることを示しています。

要約(オリジナル)

The increasing requirements for data protection and privacy has attracted a huge research interest on distributed artificial intelligence and specifically on federated learning, an emerging machine learning approach that allows the construction of a model between several participants who hold their own private data. In the initial proposal of federated learning the architecture was centralised and the aggregation was done with federated averaging, meaning that a central server will orchestrate the federation using the most straightforward averaging strategy. This research is focused on testing different federated strategies in a peer-to-peer environment. The authors propose various aggregation strategies for federated learning, including weighted averaging aggregation, using different factors and strategies based on participant contribution. The strategies are tested with varying data sizes to identify the most robust ones. This research tests the strategies with several biomedical datasets and the results of the experiments show that the accuracy-based weighted average outperforms the classical federated averaging method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google