A Selective Homomorphic Encryption Approach for Faster Privacy-Preserving Federated Learning

要約

Federated Learningは、分散型デバイスまたはサーバーのトレーニングモデルをサポートする機械学習方法であり、それぞれがローカルデータを保持してデータ交換の必要性を削除します。
このアプローチは、ヘルスケアで特に役立ちます。これは、共有する必要なく、機密データのトレーニングを可能にするためです。
連邦学習の性質は、コミュニケーション中のデータリークの懸念により、堅牢なセキュリティ上の注意事項を必要とします。
この問題に対処するために、優れた実行パフォーマンスを達成しながらデータの漏れを最小限に抑えるために、選択的暗号化、同型暗号化、差別的なプライバシー、およびビットごとのスクランブルを採用する新しいアプローチを提案します。
私たちの手法であるFAS（高速で安全な連邦学習）は、医療画像データに関する深い学習モデルを訓練するために使用されます。
フラワーフレームワークを使用して手法を実装し、選択的な同種暗号化も使用する最先端の連邦学習アプローチと比較しました。
私たちの実験は、11の物理マシンのクラスターで実行され、さまざまなデータセットで実際のフェデレーション学習シナリオを作成しました。
私たちのアプローチは、モデルの重みに完全に準同型の暗号化を適用するよりも最大90 \％の速さであることが観察されました。
さらに、競合他社が必要とし、総実行時間の面で最大46％節約できる前脱型ステップを回避できます。
私たちのアプローチはより速くなりましたが、競合他社と同様のセキュリティ結果が得られました。

要約(オリジナル)

Federated learning is a machine learning method that supports training models on decentralized devices or servers, where each holds its local data, removing the need for data exchange. This approach is especially useful in healthcare, as it enables training on sensitive data without needing to share them. The nature of federated learning necessitates robust security precautions due to data leakage concerns during communication. To address this issue, we propose a new approach that employs selective encryption, homomorphic encryption, differential privacy, and bit-wise scrambling to minimize data leakage while achieving good execution performance. Our technique , FAS (fast and secure federated learning) is used to train deep learning models on medical imaging data. We implemented our technique using the Flower framework and compared with a state-of-the-art federated learning approach that also uses selective homomorphic encryption. Our experiments were run in a cluster of eleven physical machines to create a real-world federated learning scenario on different datasets. We observed that our approach is up to 90\% faster than applying fully homomorphic encryption on the model weights. In addition, we can avoid the pretraining step that is required by our competitor and can save up to 46% in terms of total execution time. While our approach was faster, it obtained similar security results as the competitor.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google