Semantic Representation Learning of Scientific Literature based on Adaptive Feature and Graph Neural Network

要約

科学文献データのほとんどはマークされていないため、教師なしグラフに基づく意味表現学習が重要になります。
同時に、科学文献の特徴を豊かにするために、適応特徴とグラフニューラルネットワークに基づいた科学文献の意味表現の学習方法を提案する。
適応特徴法を導入することにより、科学文献の特徴がグローバルかつローカルに考慮されます。
グラフ アテンション メカニズムは、引用関係を持つ科学文献の特徴を合計し、各科学文献に異なる特徴の重みを与えるために使用され、異なる科学文献の特徴間の相関関係をより適切に表現します。
さらに、教師なしグラフニューラルネットワーク意味表現学習法を提案する。
科学文献の正および負のローカル意味表現とポテンシャル空間におけるグローバルなグラフ意味表現の間の相互情報を比較することにより、グラフ ニューラル ネットワークはローカル情報とグローバル情報をキャプチャでき、科学文献の意味表現の学習能力が向上します。
文学。
実験結果は,適応特徴とグラフニューラルネットワークに基づく科学文献の意味論的表現の提案された学習方法が科学文献分類に基づいて競争力があり,良好な結果を達成したことを示した。

要約(オリジナル)

Because most of the scientific literature data is unmarked, it makes semantic representation learning based on unsupervised graph become crucial. At the same time, in order to enrich the features of scientific literature, a learning method of semantic representation of scientific literature based on adaptive features and graph neural network is proposed. By introducing the adaptive feature method, the features of scientific literature are considered globally and locally. The graph attention mechanism is used to sum the features of scientific literature with citation relationship, and give each scientific literature different feature weights, so as to better express the correlation between the features of different scientific literature. In addition, an unsupervised graph neural network semantic representation learning method is proposed. By comparing the mutual information between the positive and negative local semantic representation of scientific literature and the global graph semantic representation in the potential space, the graph neural network can capture the local and global information, thus improving the learning ability of the semantic representation of scientific literature. The experimental results show that the proposed learning method of semantic representation of scientific literature based on adaptive feature and graph neural network is competitive on the basis of scientific literature classification, and has achieved good results.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google