Blink: Link Local Differential Privacy in Graph Neural Networks via Bayesian Estimation

要約

グラフ ニューラル ネットワーク (GNN) は、さまざまなグラフ推論タスクのノードの埋め込みを学習する優れた機能によりますます人気が高まっていますが、GNN をトレーニングするとプライバシーの懸念が生じる可能性があります。
これに対処するために、分散ノード上でリンクローカル差分プライバシーを使用し、信頼できないサーバーとの連携を可能にして、リンクの存在を明らかにすることなく GNN をトレーニングすることを提案します。
私たちのアプローチでは、サーバーのグラフのリンクと次数にプライバシー バジェットを個別に費やして、ベイジアン推定を使用してグラフ トポロジのノイズをより適切に除去し、トレーニングされた GNN の精度に対するLDPの悪影響を軽減します。
推論されたリンク確率の平均絶対誤差をグラウンド トゥルース グラフ トポロジに対して制限しました。
次に、異なるプライバシー設定で相互に補完する、LDP メカニズムの 2 つの変形を提案します。1 つは、不確実性が高い場合の誤検出リンク推定を回避するために、低いプライバシー予算の下でより少ないリンクを推定し、もう 1 つは、より多くの情報を利用し、相対的に与えられたパフォーマンスを向上させます。
プライバシー予算の増加。
さらに、両方の戦略を組み合わせ、さまざまなプライバシー予算にわたってより優れたパフォーマンスを発揮できるハイブリッド バリアントを提案します。
広範な実験により、さまざまなプライバシー予算の下で、私たちのアプローチが精度の点で既存の方法よりも優れていることが示されています。

要約(オリジナル)

Graph neural networks (GNNs) have gained an increasing amount of popularity due to their superior capability in learning node embeddings for various graph inference tasks, but training them can raise privacy concerns. To address this, we propose using link local differential privacy over decentralized nodes, enabling collaboration with an untrusted server to train GNNs without revealing the existence of any link. Our approach spends the privacy budget separately on links and degrees of the graph for the server to better denoise the graph topology using Bayesian estimation, alleviating the negative impact of LDP on the accuracy of the trained GNNs. We bound the mean absolute error of the inferred link probabilities against the ground truth graph topology. We then propose two variants of our LDP mechanism complementing each other in different privacy settings, one of which estimates fewer links under lower privacy budgets to avoid false positive link estimates when the uncertainty is high, while the other utilizes more information and performs better given relatively higher privacy budgets. Furthermore, we propose a hybrid variant that combines both strategies and is able to perform better across different privacy budgets. Extensive experiments show that our approach outperforms existing methods in terms of accuracy under varying privacy budgets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google