Federated Low-Rank Adaptation with Differential Privacy over Wireless Networks

要約

分散型エッジ デバイス上で大規模な事前トレーニング済み基盤モデル (FM) を微調整すると、計算量とプライバシーに大きな課題が生じます。
Federated Fine-tuning (FedFT) は、生データを共有する必要なく、共同モデルのトレーニングを容易にすることで、プライバシーの問題の一部を軽減します。
リソースが限られているデバイスの計算負荷を軽減するには、低ランク適応 (LoRA) とフェデレーテッド ラーニングを組み合わせることで、パラメーター効率の高い微調整が可能になります。
さらに、分割 FedFT アーキテクチャにより、FM がエッジ デバイスと中央サーバーに分割され、個々のデバイスに完全なモデルを展開する必要性が軽減されます。
しかし、FedFT におけるプライバシー盗聴攻撃のリスクは、特に医療や金融などの機密分野において依然として懸念されています。
この論文では、無線ネットワーク上で差分プライバシー (DP) を備えた分割 FedFT フレームワークを提案します。このフレームワークでは、アップリンク送信に固有の無線チャネル ノイズを利用して、余分な人工ノイズを追加することなく DP 保証を実現します。
提案されたフレームワークのコンバージェンス性能に対する無線ノイズの影響を調査します。
また、分割 FedFT 内の低ランク行列の 1 つだけを DP で更新することで、提案手法がノイズ増幅の影響を軽減できることも示します。
シミュレーション結果は、提案されたフレームワークがベースライン手法と比較して厳しいプライバシー予算の下でより高い精度を達成することを実証します。

要約(オリジナル)

Fine-tuning large pre-trained foundation models (FMs) on distributed edge devices presents considerable computational and privacy challenges. Federated fine-tuning (FedFT) mitigates some privacy issues by facilitating collaborative model training without the need to share raw data. To lessen the computational burden on resource-limited devices, combining low-rank adaptation (LoRA) with federated learning enables parameter-efficient fine-tuning. Additionally, the split FedFT architecture partitions an FM between edge devices and a central server, reducing the necessity for complete model deployment on individual devices. However, the risk of privacy eavesdropping attacks in FedFT remains a concern, particularly in sensitive areas such as healthcare and finance. In this paper, we propose a split FedFT framework with differential privacy (DP) over wireless networks, where the inherent wireless channel noise in the uplink transmission is utilized to achieve DP guarantees without adding an extra artificial noise. We shall investigate the impact of the wireless noise on convergence performance of the proposed framework. We will also show that by updating only one of the low-rank matrices in the split FedFT with DP, the proposed method can mitigate the noise amplification effect. Simulation results will demonstrate that the proposed framework achieves higher accuracy under strict privacy budgets compared to baseline methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google