Transformers for Complex Query Answering over Knowledge Hypergraphs

要約

複雑なクエリ応答（CQA）は、近年広範囲に研究されています。
実際の分布に近いデータをモデル化するために、異なるモダリティを持つ知識グラフが導入されています。
トリプルKGは、アリティ2のエンティティと関係で構成される古典的なKGSとして、実際の事実の表現が限られています。
実際のデータはより洗練されています。
多関係グラフが導入されていますが、平等な貢献を持つエンティティを含むさまざまなareityの関係を表すことには制限があります。
このギャップに対処するために、JF17K-HCQAおよびM-FB15K-HCQAの新しいCQAデータセットをサンプリングしました。
各データセットには、投影、否定、接続詞、分離などの論理操作を含むさまざまなクエリタイプが含まれています。
知識Hypergraph（KHG）実存的な一次クエリに答えるために、2段階変圧器モデル、論理知識ハイパーグラフ変圧器（LKHGT）を提案します。
両方のエンコーダーには、トークンの相互作用をキャプチャするためのタイプ認識バイアス（タブ）が装備されています。
CQAデータセットでの実験結果は、LKHGTがKHGよりも最先端のCQAメソッドであり、分散式クエリタイプに一般化できることを示しています。

要約(オリジナル)

Complex Query Answering (CQA) has been extensively studied in recent years. In order to model data that is closer to real-world distribution, knowledge graphs with different modalities have been introduced. Triple KGs, as the classic KGs composed of entities and relations of arity 2, have limited representation of real-world facts. Real-world data is more sophisticated. While hyper-relational graphs have been introduced, there are limitations in representing relationships of varying arity that contain entities with equal contributions. To address this gap, we sampled new CQA datasets: JF17k-HCQA and M-FB15k-HCQA. Each dataset contains various query types that include logical operations such as projection, negation, conjunction, and disjunction. In order to answer knowledge hypergraph (KHG) existential first-order queries, we propose a two-stage transformer model, the Logical Knowledge Hypergraph Transformer (LKHGT), which consists of a Projection Encoder for atomic projection and a Logical Encoder for complex logical operations. Both encoders are equipped with Type Aware Bias (TAB) for capturing token interactions. Experimental results on CQA datasets show that LKHGT is a state-of-the-art CQA method over KHG and is able to generalize to out-of-distribution query types.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google