zkFL: Zero-Knowledge Proof-based Gradient Aggregation for Federated Learning

要約

フェデレーション ラーニング (FL) は機械学習パラダイムであり、複数の分散型クライアントが中央アグリゲーターのオーケストレーションの下でモデルを共同でトレーニングできるようにします。
従来の FL ソリューションは、公平かつ誠実な方法でクライアントのコホートを形成する集中型アグリゲーターの信頼仮定に依存しています。
ただし、実際には、悪意のあるアグリゲーターがクライアントのトレーニング モデルを放棄して置き換えたり、偽のクライアントを挿入するために Sybil 攻撃を開始したりする可能性があります。
このような悪意のある動作により、アグリゲーターは FL 設定でクライアントを制御し、最終的なトレーニング結果を決定するためのより多くの権限を得ることができます。
この作業では、ゼロ知識証明 (ZKP) を活用して、トレーニング モデルの集約プロセス中の悪意のあるアグリゲーターの問題に取り組む zkFL を紹介します。
正しい集計結果を保証するには、アグリゲーターはラウンドごとに証明を提供する必要があります。
この証明により、アグリゲーターが意図した動作を忠実に実行していることをクライアントに示すことができます。
クライアントの検証コストをさらに削減するために、ブロックチェーンを採用してゼロ知識方法で証明を処理します。マイナー (つまり、ブロックチェーン データを検証および維持するノード) は、クライアントのローカルおよび集約されたデータを知らなくても証明を検証できます。
モデル。
理論分析と実証結果は、zkFL が、基盤となる FL ネットワーク構造を変更したり、トレーニング速度を大幅に損なうことなく、従来の FL よりも優れたセキュリティとプライバシーを実現できることを示しています。

要約(オリジナル)

Federated Learning (FL) is a machine learning paradigm, which enables multiple and decentralized clients to collaboratively train a model under the orchestration of a central aggregator. Traditional FL solutions rely on the trust assumption of the centralized aggregator, which forms cohorts of clients in a fair and honest manner. However, a malicious aggregator, in reality, could abandon and replace the client’s training models, or launch Sybil attacks to insert fake clients. Such malicious behaviors give the aggregator more power to control clients in the FL setting and determine the final training results. In this work, we introduce zkFL, which leverages zero-knowledge proofs (ZKPs) to tackle the issue of a malicious aggregator during the training model aggregation process. To guarantee the correct aggregation results, the aggregator needs to provide a proof per round. The proof can demonstrate to the clients that the aggregator executes the intended behavior faithfully. To further reduce the verification cost of clients, we employ a blockchain to handle the proof in a zero-knowledge way, where miners (i.e., the nodes validating and maintaining the blockchain data) can verify the proof without knowing the clients’ local and aggregated models. The theoretical analysis and empirical results show that zkFL can achieve better security and privacy than traditional FL, without modifying the underlying FL network structure or heavily compromising the training speed.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google