Adversarial Robustness of Bottleneck Injected Deep Neural Networks for Task-Oriented Communication

要約

この論文では、タスク指向通信システムの情報ボトルネック (IB) 目標を使用して、ディープ ニューラル ネットワーク (DNN) の敵対的堅牢性を調査します。
私たちは、IB ベースのアプローチが下流のタスクを標的とした攻撃に対するベースラインの回復力を提供する一方、タスク指向の通信の生成モデルへの依存により新たな脆弱性が生じることを経験的に示しています。
いくつかのデータセットに対する広範な実験を通じて、ボトルネックの深さとタスクの複雑さが敵対者の堅牢性にどのように影響するかを分析します。
私たちの主な調査結果は、浅い変分ボトルネック注入 (SVBI) は、深層変分情報ボトルネック (DVIB) アプローチと比較して敵対的堅牢性が低く、より複雑なタスクではギャップが拡大することを示しています。
さらに、IB ベースの対物レンズは、低強度の多くのピクセルを混乱させる攻撃と比較して、高強度の顕著なピクセルに焦点を当てた攻撃に対してより強力なロバスト性を示すことを明らかにしました。
最後に、生成モデルに依存して重要な情報を抽出および回復するタスク指向通信システムでは、攻撃対象領域が増加することを示します。
この結果は、目標指向の圧縮にニューラル ネットワークを活用する次世代通信システムにおけるセキュリティに関する重要な考慮事項を浮き彫りにしています。

要約(オリジナル)

This paper investigates the adversarial robustness of Deep Neural Networks (DNNs) using Information Bottleneck (IB) objectives for task-oriented communication systems. We empirically demonstrate that while IB-based approaches provide baseline resilience against attacks targeting downstream tasks, the reliance on generative models for task-oriented communication introduces new vulnerabilities. Through extensive experiments on several datasets, we analyze how bottleneck depth and task complexity influence adversarial robustness. Our key findings show that Shallow Variational Bottleneck Injection (SVBI) provides less adversarial robustness compared to Deep Variational Information Bottleneck (DVIB) approaches, with the gap widening for more complex tasks. Additionally, we reveal that IB-based objectives exhibit stronger robustness against attacks focusing on salient pixels with high intensity compared to those perturbing many pixels with lower intensity. Lastly, we demonstrate that task-oriented communication systems that rely on generative models to extract and recover salient information have an increased attack surface. The results highlight important security considerations for next-generation communication systems that leverage neural networks for goal-oriented compression.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google