Poisoning Attacks in Federated Edge Learning for Digital Twin 6G-enabled IoTs: An Anticipatory Study

要約

フェデレーテッド エッジ ラーニングは、デジタル ツイン 6G 対応のモノのインターネット (IoT) 環境でプライバシーを保護する人工知能 (AI) 対応のアクティビティをサポートするために不可欠です。
ただし、基盤となる AI システムを標的とする攻撃の可能性も考慮する必要があります (たとえば、敵対者は、ローカル更新中に IoT デバイス上のデータを破損しようとしたり、モデルの更新を破損したりします)。
したがって、この記事では、デジタル ツイン 6G 対応 IoT 環境のフェデレーテッド エッジ学習におけるポイズニング攻撃の予測研究を提案します。
具体的には、デジタル ツイン 6G 対応の IoT 環境における連合学習モデルのトレーニングと開発に対する敵対者の影響を調査します。
攻撃者は、集中型学習と連合型学習という 2 つの異なる学習設定でポイズニング攻撃を実行できることを示しています。攻撃が成功すると、モデルの精度が大幅に低下する可能性があります。
IoT アプリケーション用に設計された新しいサイバー セキュリティ データセットに対する攻撃を、3 つのディープ ニューラル ネットワークを使用して、非独立かつ同一分散 (Non-IID) データと独立同一分散 (IID) データの下で包括的に評価します。
ポイズニング攻撃は、攻撃分類問題で、IID データでは 94.93% から 85.98% に、非 IID では 94.18% から 30.04% に精度が低下する可能性があります。

要約(オリジナル)

Federated edge learning can be essential in supporting privacy-preserving, artificial intelligence (AI)-enabled activities in digital twin 6G-enabled Internet of Things (IoT) environments. However, we need to also consider the potential of attacks targeting the underlying AI systems (e.g., adversaries seek to corrupt data on the IoT devices during local updates or corrupt the model updates); hence, in this article, we propose an anticipatory study for poisoning attacks in federated edge learning for digital twin 6G-enabled IoT environments. Specifically, we study the influence of adversaries on the training and development of federated learning models in digital twin 6G-enabled IoT environments. We demonstrate that attackers can carry out poisoning attacks in two different learning settings, namely: centralized learning and federated learning, and successful attacks can severely reduce the model’s accuracy. We comprehensively evaluate the attacks on a new cyber security dataset designed for IoT applications with three deep neural networks under the non-independent and identically distributed (Non-IID) data and the independent and identically distributed (IID) data. The poisoning attacks, on an attack classification problem, can lead to a decrease in accuracy from 94.93% to 85.98% with IID data and from 94.18% to 30.04% with Non-IID.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google