PriPHiT: Privacy-Preserving Hierarchical Training of Deep Neural Networks

要約

ディープ ニューラル ネットワークのトレーニング フェーズには大量のリソースが必要なため、クラウド サーバーで実行されることがよくあります。
ただし、トレーニング データセットに顔画像などの機密コンテンツが含まれている場合、プライバシーの懸念が生じます。
この研究では、エッジ デバイスとクラウド サーバーの両方で深層学習モデルのトレーニング フェーズを実行し、必要な情報を保持しながら機密コンテンツがクラウドに送信されるのを防ぐ方法を提案します。
提案されたプライバシー保護方法は、敵対的な早期終了を使用してエッジで機密コンテンツを抑制し、タスク関連情報をクラウドに送信します。
このアプローチには、トレーニング段階でのノイズの追加が組み込まれており、差分プライバシー保証が提供されます。
私たちは、さまざまな深層学習アーキテクチャを使用して、さまざまな顔属性を持つさまざまな顔データセットでメソッドを広範囲にテストし、その優れたパフォーマンスを実証しました。
また、さまざまなホワイトボックス攻撃やディープ再構成攻撃に対する防御を成功させ、プライバシー保護の有効性を実証します。

要約(オリジナル)

The training phase of deep neural networks requires substantial resources and as such is often performed on cloud servers. However, this raises privacy concerns when the training dataset contains sensitive content, e.g., face images. In this work, we propose a method to perform the training phase of a deep learning model on both an edge device and a cloud server that prevents sensitive content being transmitted to the cloud while retaining the desired information. The proposed privacy-preserving method uses adversarial early exits to suppress the sensitive content at the edge and transmits the task-relevant information to the cloud. This approach incorporates noise addition during the training phase to provide a differential privacy guarantee. We extensively test our method on different facial datasets with diverse face attributes using various deep learning architectures, showcasing its outstanding performance. We also demonstrate the effectiveness of privacy preservation through successful defenses against different white-box and deep reconstruction attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google