When approximate design for fast homomorphic computation provides differential privacy guarantees

要約

【タイトル】
– 近似設計が高速ホモモーフィック計算に対する差分プライバシー保証を提供する場合

【要約】
– 機械学習は産業、医療、ソーシャルネットワークなど多様な分野で普及しているが、トレーニングデータのプライバシーに関する懸念が高まっている
– 共同モデルトレーニングにおいて、データを保護する必要があるが、これはモデルのエンドユーザーやトレーニングのアクターに対しても保護することを意味する
– DPや暗号プリミティブはプライバシー攻撃への対策として、FHEはホモモーフィック暗号を提供する
– この論文では、高速なホモモーフィック実行時に実行されるargmax演算子のための確率的近似アルゴリズムSHIELDを設計し、その不正確さを使用してDP保証を確保する
– SHIELDは他のアプリケーションを持つことができるが、この研究ではSPEED共同トレーニングフレームワークにシームレスに統合し、計算効率を改善することに重点を置いている
– FHE実装とDP分析について詳しく説明した後、実験結果を示す
– 精度を犠牲にしてホモモーフィックな計算を緩和することが、より良いFHEパフォーマンスを実現するための自由度として構成的に使用される最初の研究である（筆者らの知る限り）。

要約(オリジナル)

While machine learning has become pervasive in as diversified fields as industry, healthcare, social networks, privacy concerns regarding the training data have gained a critical importance. In settings where several parties wish to collaboratively train a common model without jeopardizing their sensitive data, the need for a private training protocol is particularly stringent and implies to protect the data against both the model’s end-users and the actors of the training phase. Differential privacy (DP) and cryptographic primitives are complementary popular countermeasures against privacy attacks. Among these cryptographic primitives, fully homomorphic encryption (FHE) offers ciphertext malleability at the cost of time-consuming operations in the homomorphic domain. In this paper, we design SHIELD, a probabilistic approximation algorithm for the argmax operator which is both fast when homomorphically executed and whose inaccuracy is used as a feature to ensure DP guarantees. Even if SHIELD could have other applications, we here focus on one setting and seamlessly integrate it in the SPEED collaborative training framework from ‘SPEED: Secure, PrivatE, and Efficient Deep learning’ (Grivet S\’ebert et al., 2021) to improve its computational efficiency. After thoroughly describing the FHE implementation of our algorithm and its DP analysis, we present experimental results. To the best of our knowledge, it is the first work in which relaxing the accuracy of an homomorphic calculation is constructively usable as a degree of freedom to achieve better FHE performances.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI