A Learning-based Declarative Privacy-Preserving Framework for Federated Data Management

要約

複数のプライベート データ サイロにわたるフェデレーション クエリ処理に適切なプライバシー保護メカニズムを選択するのは困難です。
セキュアなマルチパーティ コンピューティング (SMC)、差分プライバシー (DP) による近似クエリ処理、SMC と DP の組み合わせ、DP ベースのデータ難読化、フェデレーテッド ラーニングなど、プライバシーを保護するメカニズムが多数存在します。
これらのメカニズムでは、精度、プライバシー、実行効率、ストレージ効率の間でさまざまなトレードオフが行われます。
この研究では、まず、Differently-Private Stochastic Gradient Descent (DP-SGD) アルゴリズムを使用してトレーニングされた深層学習モデルを使用し、クエリに答えるために実際のデータの一部を置き換える新しいプライバシー保護手法を導入します。
次に、ユーザーが「どのように保護するか」ではなく「どの個人情報を保護するか」を指定できる、新しい宣言型プライバシー保護ワークフローを示します。
内部では、システムはコスト モデルに依存して、プライバシー保護メカニズムとハイパー パラメーターを自動的に選択します。
同時に、提案されたワークフローにより、人間の専門家が、監査/コンプライアンスおよび最適化の目的で、選択されたプライバシー保護メカニズムをレビューおよび調整することもできます。

要約(オリジナル)

It is challenging to select the right privacy-preserving mechanism for federated query processing over multiple private data silos. There exist numerous privacy-preserving mechanisms, such as secure multi-party computing (SMC), approximate query processing with differential privacy (DP), combined SMC and DP, DP-based data obfuscation, and federated learning. These mechanisms make different trade-offs among accuracy, privacy, execution efficiency, and storage efficiency. In this work, we first introduce a new privacy-preserving technique that uses a deep learning model trained using the Differentially-Private Stochastic Gradient Descent (DP-SGD) algorithm to replace portions of actual data to answer a query. We then demonstrate a novel declarative privacy-preserving workflow that allows users to specify ‘what private information to protect’ rather than ‘how to protect’. Under the hood, the system relies on a cost model to automatically choose privacy-preserving mechanisms as well as hyper-parameters. At the same time, the proposed workflow also allows human experts to review and tune the selected privacy-preserving mechanism for audit/compliance, and optimization purposes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google