Contrastive Learning and Adversarial Disentanglement for Task-Oriented Semantic Communications

要約

タスク指向のセマンティックコミュニケーションシステムは、特定のタスクに関連する情報のみが伝えられる効率的でインテリジェントなデータ送信を達成するための有望なアプローチとして浮上しています。
ただし、既存の方法は、タスクに関連したタスクに関係のある情報を完全に解き放つために苦労しており、プライバシーの懸念とサブパフォーマンスにつながります。
これに対処するために、CLAD（対照的な学習と敵対的な解体）という名前の情報ボトルネック法を提案します。
CLADは、敵対的な解体を採用してタスクに関係のある情報を破棄しながら、逆の機能を効果的にキャプチャするために対照的な学習を利用します。
さらに、エンコードされた特徴ベクトルの情報性と最小性についての洞察を得るための信頼性が高く再現可能な方法がないため、エンコードされた機能と入力の間の相互情報のプロキシとして使用される比較メトリックとして使用される情報保持指数（IRI）を計算する新しい手法を導入します。
IRIは、異なるタスク指向の通信技術にわたるエンコードされた機能ベクトルの最小性と情報性を定量化します。
私たちの広範な実験は、CLADがセマンティック抽出、タスクパフォ​​ーマンス、プライバシー保存、およびIRIの観点から最先端のベースラインを上回ることを示しています。
CLADは、約2.5〜3％の予測パフォーマンス改善と、IRIの77-90％の減少と敵対的属性推論攻撃精度の57-76％の減少を達成します。

要約(オリジナル)

Task-oriented semantic communication systems have emerged as a promising approach to achieving efficient and intelligent data transmission, where only information relevant to a specific task is communicated. However, existing methods struggle to fully disentangle task-relevant and task-irrelevant information, leading to privacy concerns and subpar performance. To address this, we propose an information-bottleneck method, named CLAD (contrastive learning and adversarial disentanglement). CLAD utilizes contrastive learning to effectively capture task-relevant features while employing adversarial disentanglement to discard task-irrelevant information. Additionally, due to the lack of reliable and reproducible methods to gain insight into the informativeness and minimality of the encoded feature vectors, we introduce a new technique to compute the information retention index (IRI), a comparative metric used as a proxy for the mutual information between the encoded features and the input, reflecting the minimality of the encoded features. The IRI quantifies the minimality and informativeness of the encoded feature vectors across different task-oriented communication techniques. Our extensive experiments demonstrate that CLAD outperforms state-of-the-art baselines in terms of semantic extraction, task performance, privacy preservation, and IRI. CLAD achieves a predictive performance improvement of around 2.5-3%, along with a 77-90% reduction in IRI and a 57-76% decrease in adversarial attribute inference attack accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google