Multi-view Contrastive Learning for Entity Typing over Knowledge Graphs

要約

ナレッジ グラフ エンティティ タイピング (KGET) は、ナレッジ グラフ内のエンティティの妥当なタイプを推測することを目的としています。
KGET への既存のアプローチは、エンティティの近隣および型によって提供される知識をその表現に適切にエンコードする方法に焦点を当てています。
ただし、型をクラスター化する方法によって提供される意味論的な知識は無視されます。
この論文では、ナレッジ グラフ エンティティ タイピング (MCLET) のためのマルチビュー対照学習と呼ばれる新しい方法を提案します。これは、クラスタによって提供される粗粒知識をエンティティと型の埋め込みに効果的にエンコードします。
MCLET は 3 つのモジュールで構成されます。 i) マルチビュー生成およびエンコーダ モジュール。エンティティ タイプ、エンティティ クラスタ、クラスタ タイプのビューからの構造化情報をエンコードします。
ii) クロスビュー対照学習モジュール。さまざまなビューが協力してエンティティとタイプのビュー固有の表現を改善することを促進します。
iii) エンティティ タイピング予測モジュール。マルチヘッド アテンションと専門家混合戦略を統合して、欠落しているエンティティ タイプを推測します。
広範な実験により、最先端技術と比較して MCLET の優れたパフォーマンスが示されました。

要約(オリジナル)

Knowledge graph entity typing (KGET) aims at inferring plausible types of entities in knowledge graphs. Existing approaches to KGET focus on how to better encode the knowledge provided by the neighbors and types of an entity into its representation. However, they ignore the semantic knowledge provided by the way in which types can be clustered together. In this paper, we propose a novel method called Multi-view Contrastive Learning for knowledge graph Entity Typing (MCLET), which effectively encodes the coarse-grained knowledge provided by clusters into entity and type embeddings. MCLET is composed of three modules: i) Multi-view Generation and Encoder module, which encodes structured information from entity-type, entity-cluster and cluster-type views; ii) Cross-view Contrastive Learning module, which encourages different views to collaboratively improve view-specific representations of entities and types; iii) Entity Typing Prediction module, which integrates multi-head attention and a Mixture-of-Experts strategy to infer missing entity types. Extensive experiments show the strong performance of MCLET compared to the state-of-the-art

arxiv情報

提供元, 利用サービス

arxiv.jp, Google