Hyperbolic Hierarchical Knowledge Graph Embeddings for Link Prediction in Low Dimensions

要約

ナレッジ グラフ エンベディング (KGE) は、通常、エンティティをユークリッド空間にマッピングし、関係をエンティティの変換として扱うため、ナレッジ グラフ (KG) 内のミッシング リンクを推論するための強力な方法として検証されています。
最近、一部のユークリッド KGE 手法が強化され、KG で一般的に見られる意味階層をモデル化し、リンク予測のパフォーマンスが向上しました。
階層データを埋め込むために、従来のユークリッド空間に代わる有望な代替手段として、高忠実度でメモリ消費量の少ない双曲空間が登場しました。
ユークリッドとは異なり、双曲空間では無数の曲率から選択できます。
ただし、既存の双曲線 KGE 手法では、最適な曲率設定を手動で取得することが困難であるため、意味階層を効果的にモデル化する能力が制限されています。
この制限に対処するために、$\textbf{Hyp}$erbolic $\textbf{H}$ierarchical $\textbf{KGE}$ (HypHKGE) と呼ばれる新しい KGE モデルを提案します。
このモデルは、双曲空間に注意ベースの学習可能な曲率を導入し、豊かな意味階層を維持するのに役立ちます。
さらに、ミッシングリンクの推論に保存された階層を利用するために、レベル間モデリングとレベル内モデリングの両方を含む双曲幾何学の理論に基づいて双曲階層変換を定義します。
実験では、3 つのベンチマーク データセット (WN18RR、FB15K-237、YAGO3-10) に対する提案された HypHKGE モデルの有効性が実証されています。
ソースコードは https://github.com/wjzheng96/HypHKGE で公開されます。

要約(オリジナル)

Knowledge graph embeddings (KGE) have been validated as powerful methods for inferring missing links in knowledge graphs (KGs) that they typically map entities into Euclidean space and treat relations as transformations of entities. Recently, some Euclidean KGE methods have been enhanced to model semantic hierarchies commonly found in KGs, improving the performance of link prediction. To embed hierarchical data, hyperbolic space has emerged as a promising alternative to traditional Euclidean space, offering high fidelity and lower memory consumption. Unlike Euclidean, hyperbolic space provides countless curvatures to choose from. However, it is difficult for existing hyperbolic KGE methods to obtain the optimal curvature settings manually, thereby limiting their ability to effectively model semantic hierarchies. To address this limitation, we propose a novel KGE model called $\textbf{Hyp}$erbolic $\textbf{H}$ierarchical $\textbf{KGE}$ (HypHKGE). This model introduces attention-based learnable curvatures for hyperbolic space, which helps preserve rich semantic hierarchies. Furthermore, to utilize the preserved hierarchies for inferring missing links, we define hyperbolic hierarchical transformations based on the theory of hyperbolic geometry, including both inter-level and intra-level modeling. Experiments demonstrate the effectiveness of the proposed HypHKGE model on the three benchmark datasets (WN18RR, FB15K-237, and YAGO3-10). The source code will be publicly released at https://github.com/wjzheng96/HypHKGE.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google