PBM-VFL: Vertical Federated Learning with Feature and Sample Privacy

要約

我々は、差分プライバシー保証を備えた通信効率の高い垂直フェデレーテッド ラーニング アルゴリズムである、ポアソン二項メカニズム垂直フェデレーテッド ラーニング (PBM-VFL) を紹介します。
PBM-VFL は、安全なマルチパーティ計算と最近導入されたポアソン二項メカニズムを組み合わせて、モデルのトレーニング中にパーティのプライベート データセットを保護します。
私たちは機能プライバシーの新しい概念を定義し、アルゴリズムのエンドツーエンドの機能とサンプル プライバシーを分析します。
VFL でのプライバシー損失のサンプルと HFL でのプライバシー損失を比較します。
また、差分プライベート VFL におけるプライバシー バジェット、収束誤差、および通信コストの間の関係の最初の理論的特徴付けも提供します。
最後に、私たちのモデルが高レベルのプライバシーで良好に機能することを経験的に示します。

要約(オリジナル)

We present Poisson Binomial Mechanism Vertical Federated Learning (PBM-VFL), a communication-efficient Vertical Federated Learning algorithm with Differential Privacy guarantees. PBM-VFL combines Secure Multi-Party Computation with the recently introduced Poisson Binomial Mechanism to protect parties’ private datasets during model training. We define the novel concept of feature privacy and analyze end-to-end feature and sample privacy of our algorithm. We compare sample privacy loss in VFL with privacy loss in HFL. We also provide the first theoretical characterization of the relationship between privacy budget, convergence error, and communication cost in differentially-private VFL. Finally, we empirically show that our model performs well with high levels of privacy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google