ByzSecAgg: A Byzantine-Resistant Secure Aggregation Scheme for Federated Learning Based on Coded Computing and Vector Commitment

要約

この論文では、ビザンチンの攻撃やプライバシーの漏れに耐性のある連合学習のための効率的な安全な集約スキームであるByzsecaggを提案します。
個々の更新を処理して、敵対的な行動を管理するために、ノードの共謀に対するデータのプライバシーを維持しながら、何らかの安全な秘密共有が必要です。
ただし、更新の長いベクトルの秘密共有のための通信負荷は非常に高い場合があります。
ユーザーが潜在的な帯域幅の制約を備えたエッジデバイスであることが多いフェデレーション設定では、過度の通信オーバーヘッドは望ましくありません。
Byzsecaggは、ローカル更新をより小さなサブベクターに分割し、Ramp Secret共有を使用してそれらを共有することにより、この問題を解決します。
ただし、この共有方法では、距離ベースの外れ値検出アルゴリズムに必要なペアワイズ距離計算や、ビザンチン攻撃を緩和するための効果的な方法などの双線形計算を認めません。
この問題を克服するために、各ユーザーはランプ共有の別のラウンドを実行し、共有の多項式にデータを埋め込みます。
この手法は、コード化されたコンピューティングからのアイデアに動機付けられ、ペアワイズ距離の安全な計算を可能にします。
さらに、ローカルアップデートの整合性とプライバシーを維持するために、Byzsecaggはベクトルコミットメント方法も使用します。この方法では、コミットメントサイズが一定のままです（つまり、ローカルアップデートの長さでは増加しません）。同時に、秘密共有プロセスの検証を可能にします。
通信負荷の観点から、Byzsecaggは、Breaとして知られる関連するベースラインスキームを大幅に上回ります。

要約(オリジナル)

In this paper, we propose ByzSecAgg, an efficient secure aggregation scheme for federated learning that is resistant to Byzantine attacks and privacy leakages. Processing individual updates to manage adversarial behavior, while preserving the privacy of the data against colluding nodes, requires some sort of secure secret sharing. However, the communication load for secret sharing of long vectors of updates can be very high. In federated settings, where users are often edge devices with potential bandwidth constraints, excessive communication overhead is undesirable. ByzSecAgg solves this problem by partitioning local updates into smaller sub-vectors and sharing them using ramp secret sharing. However, this sharing method does not admit bilinear computations, such as pairwise distances calculations, which are needed for distance-based outlier-detection algorithms, and effective methods for mitigating Byzantine attacks. To overcome this issue, each user runs another round of ramp sharing, with a different embedding of the data in the sharing polynomial. This technique, motivated by ideas from coded computing, enables secure computation of pairwise distance. In addition, to maintain the integrity and privacy of the local update, ByzSecAgg also uses a vector commitment method, in which the commitment size remains constant (i.e., does not increase with the length of the local update), while simultaneously allowing verification of the secret sharing process. In terms of communication load, ByzSecAgg significantly outperforms the related baseline scheme, known as BREA.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google