FedComm: Federated Learning as a Medium for Covert Communication

要約

ディープ ラーニングの導入に関連するプライバシーへの影響を軽減するソリューションとして提案された Federated Learning (FL) を使用すると、実際のプライベート トレーニング データを明らかにすることなく、多数の参加者がディープ ニューラル ネットワークを正常にトレーニングできるようになります。
これまでに、フロリダ州のセキュリティとプライバシーの特性についてかなりの量の研究が行われ、その結果、多数の革新的な攻撃および防御戦略が生まれました。
この論文では、FL 方式の通信能力を徹底的に調査します。
特に、FL 学習プロセスに関与する当事者が、任意のメッセージを送信するための秘密通信媒体として FL を使用できることを示します。
FL フレームワーク内でターゲット ペイロードの堅牢な共有と転送を可能にする、新しいマルチシステム秘密通信技術である FedComm を紹介します。
私たちの広範な理論的および実証的評価により、FedComm はトレーニング プロセスへの中断を最小限に抑えたステルス通信チャネルを提供していることがわかりました。
私たちの実験では、FedComm が FL 手順が収束する前にキロビット単位でペイロードの 100% を正常に配信できることが示されています。
私たちの評価は、FedComm がアプリケーション ドメインや、基礎となる FL スキームで使用されるニューラル ネットワーク アーキテクチャから独立していることも示しています。

要約(オリジナル)

Proposed as a solution to mitigate the privacy implications related to the adoption of deep learning, Federated Learning (FL) enables large numbers of participants to successfully train deep neural networks without having to reveal the actual private training data. To date, a substantial amount of research has investigated the security and privacy properties of FL, resulting in a plethora of innovative attack and defense strategies. This paper thoroughly investigates the communication capabilities of an FL scheme. In particular, we show that a party involved in the FL learning process can use FL as a covert communication medium to send an arbitrary message. We introduce FedComm, a novel multi-system covert-communication technique that enables robust sharing and transfer of targeted payloads within the FL framework. Our extensive theoretical and empirical evaluations show that FedComm provides a stealthy communication channel, with minimal disruptions to the training process. Our experiments show that FedComm successfully delivers 100% of a payload in the order of kilobits before the FL procedure converges. Our evaluation also shows that FedComm is independent of the application domain and the neural network architecture used by the underlying FL scheme.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google