FedGT: Identification of Malicious Clients in Federated Learning with Secure Aggregation

要約

私たちは、安全な集約を使用したフェデレーション ラーニングで悪意のあるクライアントを識別するための新しいフレームワークである FedGT を提案します。
グループ テストにヒントを得たこのフレームワークは、重複するクライアント グループを活用し、デコード操作を通じてグループ内の悪意のあるクライアントの存在を特定します。
悪意があると識別されたクライアントは、残りのクライアントに対して実行されるモデル トレーニングから削除されます。
FedGT は、グループ間のサイズ、数、重複を選択することにより、プライバシーとセキュリティのバランスをとります。
具体的には、サーバーは各グループ内のクライアントの集約モデルを学習します。バニラのフェデレーテッド ラーニングと安全な集約は、それぞれグループ サイズが 1 とクライアントの総数に等しい FedGT の極端なケースに対応します。
FedGT の有効性は、さまざまなデータポイズニング攻撃下でのクロスサイロ設定での MNIST、CIFAR-10、および ISIC2019 データセットに対する広範な実験を通じて実証されています。
これらの実験は、悪意のあるクライアントを識別する FedGT の能力を実証し、高いモデルの実用性をもたらします。
さらに、FedGT が、Pillutla らによって最近提案された幾何中央値に基づくプライベートのロバストな集計アプローチよりも大幅に優れていることを示します。
複数の設定で。

要約(オリジナル)

We propose FedGT, a novel framework for identifying malicious clients in federated learning with secure aggregation. Inspired by group testing, the framework leverages overlapping groups of clients to identify the presence of malicious clients in the groups via a decoding operation. The clients identified as malicious are then removed from the model training, which is performed over the remaining clients. By choosing the size, number, and overlap between groups, FedGT strikes a balance between privacy and security. Specifically, the server learns the aggregated model of the clients in each group – vanilla federated learning and secure aggregation correspond to the extreme cases of FedGT with group size equal to one and the total number of clients, respectively. The effectiveness of FedGT is demonstrated through extensive experiments on the MNIST, CIFAR-10, and ISIC2019 datasets in a cross-silo setting under different data-poisoning attacks. These experiments showcase FedGT’s ability to identify malicious clients, resulting in high model utility. We further show that FedGT significantly outperforms the private robust aggregation approach based on the geometric median recently proposed by Pillutla et al. in multiple settings.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google