Perturbation Ontology based Graph Attention Networks

要約

近年、グラフ ニューラル ネットワーク (GNN) とその異種対応物の出現と普及により、グラフ表現学習はパラダイム シフトを経験しました。
異種 GNN は、さまざまなエンティティ タイプと関係を含む複雑なグラフから低次元の埋め込みを抽出することに目覚ましい成功を収めています。
メタパスベースの技術は、ノード間のセマンティックな親和性を捕捉する能力が長い間認識されてきましたが、手動の仕様に依存するため、重大な制限が生じます。
対照的に、マトリックスに焦点を当てた手法は、構造的手がかりを利用することで処理を加速しますが、コンテキストの豊かさを見落とすことがよくあります。
この論文では、複雑なグラフ内の基本的な意味論的プリミティブとしてオントロジーを導入することで、現在のパラダイムに挑戦します。
私たちの目標は、マトリックス中心のアプローチとメタパスベースのアプローチの両方の長所を統一フレームワークに統合することです。
我々は、摂動オントロジーベースのグラフアテンションネットワーク（POGAT）を提案します。これは、オントロジーのサブグラフと高度な自己教師あり学習パラダイムを組み合わせて、深い文脈の理解を達成する新しい方法論です。
POGAT の中核となる革新は、厳密なネガティブ サンプルを生成するように設計された強化された均一摂動スキームにあり、モデルが最小限のコンテキスト上の特徴をより徹底的に探索するように促します。
広範な実証的評価を通じて、POGAT が最先端のベースラインを大幅に上回っており、リンク予測という重要なタスクの F1 スコアで最大 10.78\%、Micro-F1 で 12.01\% という画期的な改善を達成していることを実証しています。
ノード分類という重要なタスク。

要約(オリジナル)

In recent years, graph representation learning has undergone a paradigm shift, driven by the emergence and proliferation of graph neural networks (GNNs) and their heterogeneous counterparts. Heterogeneous GNNs have shown remarkable success in extracting low-dimensional embeddings from complex graphs that encompass diverse entity types and relationships. While meta-path-based techniques have long been recognized for their ability to capture semantic affinities among nodes, their dependence on manual specification poses a significant limitation. In contrast, matrix-focused methods accelerate processing by utilizing structural cues but often overlook contextual richness. In this paper, we challenge the current paradigm by introducing ontology as a fundamental semantic primitive within complex graphs. Our goal is to integrate the strengths of both matrix-centric and meta-path-based approaches into a unified framework. We propose perturbation Ontology-based Graph Attention Networks (POGAT), a novel methodology that combines ontology subgraphs with an advanced self-supervised learning paradigm to achieve a deep contextual understanding. The core innovation of POGAT lies in our enhanced homogeneous perturbing scheme designed to generate rigorous negative samples, encouraging the model to explore minimal contextual features more thoroughly. Through extensive empirical evaluations, we demonstrate that POGAT significantly outperforms state-of-the-art baselines, achieving a groundbreaking improvement of up to 10.78\% in F1-score for the critical task of link prediction and 12.01\% in Micro-F1 for the critical task of node classification.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google