Predicting the Silent Majority on Graphs: Knowledge Transferable Graph Neural Network

要約

タイトル：グラフ上でサイレント多数派を予測する：転移可能なグラフニューラルネットワーク

要約：

– 多くのグラフは、ボーカルノード（少数派）とサイレントノード（多数派）から構成される。ボーカルノードは豊富な特徴量やラベルを持つのに対して、サイレントノードは不完全な特徴量と希少なラベルを持っている。
– 現在のGNN（グラフニューラルネットワーク）は、すべてのノードが同じドメインに属していると仮定しているため、VSグラフを処理する能力が不十分である。
– 本研究では、転移可能なグラフニューラルネットワーク（KT-GNN）を提案している。KT-GNNは、ボーカルノードからサイレントノードへの知識転移により、ノード表現学習中の分布シフトをモデル化する。
– KT-GNNは、ドメインの違いを保存しながら、ノード表現学習のためのドメイン適応型の「特徴量補完とメッセージパッシングメカニズム」を設計する。また、KLダイバージェンスに基づく知識転移可能な分類器が続く。
– 実際のシナリオ（企業の金融リスク評価や政治選挙）での包括的な実験により、本研究の手法が優れた性能を発揮することが示された。本研究のソースコードはオープンソース化されている。

要約(オリジナル)

Graphs consisting of vocal nodes (‘the vocal minority’) and silent nodes (‘the silent majority’), namely VS-Graph, are ubiquitous in the real world. The vocal nodes tend to have abundant features and labels. In contrast, silent nodes only have incomplete features and rare labels, e.g., the description and political tendency of politicians (vocal) are abundant while not for ordinary people (silent) on the twitter’s social network. Predicting the silent majority remains a crucial yet challenging problem. However, most existing message-passing based GNNs assume that all nodes belong to the same domain, without considering the missing features and distribution-shift between domains, leading to poor ability to deal with VS-Graph. To combat the above challenges, we propose Knowledge Transferable Graph Neural Network (KT-GNN), which models distribution shifts during message passing and representation learning by transferring knowledge from vocal nodes to silent nodes. Specifically, we design the domain-adapted ‘feature completion and message passing mechanism’ for node representation learning while preserving domain difference. And a knowledge transferable classifier based on KL-divergence is followed. Comprehensive experiments on real-world scenarios (i.e., company financial risk assessment and political elections) demonstrate the superior performance of our method. Our source code has been open sourced.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI