The Implications of Decentralization in Blockchained Federated Learning: Evaluating the Impact of Model Staleness and Inconsistencies

要約

ブロックチェーンは、次世代アプリケーションで協調的なインテリジェンスを実現するための重要な特性である分散化、セキュリティ、不変性、信頼性をさらに提供することで、フェデレーション ラーニング (FL) などの分散機械学習 (ML) アプローチを強化することを約束します。
それにもかかわらず、ピアツーピア (P2P) ブロックチェーン ノードの本質的な分散運用により、FL の未知の設定がもたらされ、中央のオーケストレーションがなければデバイスの同期が失われるため、FL ラウンドとグローバル モデルの概念が無意味になります。
サーバ。
この論文では、FL のオーケストレーションをブロックチェーンなどの民主的な環境にアウトソーシングすることの実際的な意味を研究します。
特に、ブロックチェーンの手法で支持されているモデルの古さと不一致が、FL デバイスによって非同期的に保持されるトレーニング手順に与える影響に焦点を当てます。
シミュレーションを使用して、よく知られている MNIST および CIFAR-10 データセットに 2 つの異なる ML モデル (複雑さの低いものから高いものまで) をそれぞれ適用することで、ブロックチェーン化された FL 操作を評価し、ソリューションの精度と適時性に焦点を当てます。
私たちの結果は、モデルの不一致がモデルの精度に大きな影響を与えること (予測精度が最大 35% 低下する) を示しており、基礎となる FL アプリケーションの特性に基づいてブロックチェーン システムを適切に設計することの重要性を強調しています。

要約(オリジナル)

Blockchain promises to enhance distributed machine learning (ML) approaches such as federated learning (FL) by providing further decentralization, security, immutability, and trust, which are key properties for enabling collaborative intelligence in next-generation applications. Nonetheless, the intrinsic decentralized operation of peer-to-peer (P2P) blockchain nodes leads to an uncharted setting for FL, whereby the concepts of FL round and global model become meaningless, as devices’ synchronization is lost without the figure of a central orchestrating server. In this paper, we study the practical implications of outsourcing the orchestration of FL to a democratic setting such as in a blockchain. In particular, we focus on the effects that model staleness and inconsistencies, endorsed by blockchains’ modus operandi, have on the training procedure held by FL devices asynchronously. Using simulation, we evaluate the blockchained FL operation by applying two different ML models (ranging from low to high complexity) on the well-known MNIST and CIFAR-10 datasets, respectively, and focus on the accuracy and timeliness of the solutions. Our results show the high impact of model inconsistencies on the accuracy of the models (up to a ~35% decrease in prediction accuracy), which underscores the importance of properly designing blockchain systems based on the characteristics of the underlying FL application.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google