Task-Oriented Communication for Graph Data: A Graph Information Bottleneck Approach

要約

知識表現やソーシャル ネットワークなどの分野で不可欠なグラフ データには、多くのノードやエッジを持つ大規模なネットワークが含まれることがよくあります。
これらのグラフの送信は、グラフのサイズと特定のタスクの冗長性のため、非常に非効率になる可能性があります。
この論文では、通信オーバーヘッドを削減しながら重要な情報を維持する、タスクに焦点を当てたより小さいサブグラフを抽出する方法を紹介します。
私たちのアプローチは、グラフ ニューラル ネットワーク (GNN) とグラフ情報ボトルネック (GIB) の原理を利用して、送信に適したコンパクトで有益な堅牢なグラフ表現を作成します。
問題はグラフ データの不規則な構造にあり、GIB の最適化が複雑になります。
目的関数の扱いやすい変分上限を導出することで、この問題に対処します。
さらに、ベクトル量子化 (VQ) を統合して、サブグラフ表現を既存のデジタル通信システムと互換性のある離散コードブック シーケンスに変換する VQ-GIB メカニズムを提案します。
私たちの実験では、この GIB ベースの方法により、重要なタスク関連情報を維持しながら、通信コストが大幅に削減されることがわかりました。
このアプローチは、さまざまな通信チャネルにわたって堅牢なパフォーマンスを実証し、連続システムと離散システムの両方に適しています。

要約(オリジナル)

Graph data, essential in fields like knowledge representation and social networks, often involves large networks with many nodes and edges. Transmitting these graphs can be highly inefficient due to their size and redundancy for specific tasks. This paper introduces a method to extract a smaller, task-focused subgraph that maintains key information while reducing communication overhead. Our approach utilizes graph neural networks (GNNs) and the graph information bottleneck (GIB) principle to create a compact, informative, and robust graph representation suitable for transmission. The challenge lies in the irregular structure of graph data, making GIB optimization complex. We address this by deriving a tractable variational upper bound for the objective function. Additionally, we propose the VQ-GIB mechanism, integrating vector quantization (VQ) to convert subgraph representations into a discrete codebook sequence, compatible with existing digital communication systems. Our experiments show that this GIB-based method significantly lowers communication costs while preserving essential task-related information. The approach demonstrates robust performance across various communication channels, suitable for both continuous and discrete systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google