Resilience in Knowledge Graph Embeddings

要約

近年、ナレッジ グラフは関心を集めており、特に情報検索、質問応答、推奨システムなど、さまざまな分野で広範な応用が見られています。
この目的のための大規模ナレッジ グラフは、構造化された知識を効果的に表現する上で有用であることが実証されています。
機械学習技術の適用をさらに容易にするために、ナレッジ グラフ エンベディング (KGE) モデルが開発されました。
このようなモデルは、ナレッジ グラフ内のエンティティと関係をベクトルに変換できます。
ただし、これらの埋め込みモデルは、ノイズ、情報の欠落、分布の変化、敵対的攻撃などに関連する課題に直面することがよくあります。これにより、最適ではない埋め込みや誤った推論が発生し、下流のアプリケーションに悪影響を及ぼす可能性があります。
既存の文献はこれまで KGE モデルに対する敵対的攻撃に焦点を当ててきましたが、他の重要な側面に関連する課題は未調査のままです。
このホワイトペーパーでは、まず、一般化、パフォーマンスの一貫性、分散の適応、堅牢性などのいくつかの要素を含む、レジリエンスの統一的な定義を示します。
これらの概念を機械学習全般に対して形式化した後、ナレッジ グラフのコンテキストで定義します。
ナレッジ グラフの文脈におけるレジリエンスに関する既存の研究のギャップを見つけるために、前述のすべての側面を考慮して体系的な調査を実行します。
私たちの調査結果によると、既存の研究のほとんどは、回復力の特定の側面、つまり堅牢性に焦点を当てています。
このような研究をレジリエンスのそれぞれの側面に基づいて分類した後、課題と今後の研究の方向性について議論します。

要約(オリジナル)

In recent years, knowledge graphs have gained interest and witnessed widespread applications in various domains, such as information retrieval, question-answering, recommendation systems, amongst others. Large-scale knowledge graphs to this end have demonstrated their utility in effectively representing structured knowledge. To further facilitate the application of machine learning techniques, knowledge graph embedding (KGE) models have been developed. Such models can transform entities and relationships within knowledge graphs into vectors. However, these embedding models often face challenges related to noise, missing information, distribution shift, adversarial attacks, etc. This can lead to sub-optimal embeddings and incorrect inferences, thereby negatively impacting downstream applications. While the existing literature has focused so far on adversarial attacks on KGE models, the challenges related to the other critical aspects remain unexplored. In this paper, we, first of all, give a unified definition of resilience, encompassing several factors such as generalisation, performance consistency, distribution adaption, and robustness. After formalizing these concepts for machine learning in general, we define them in the context of knowledge graphs. To find the gap in the existing works on resilience in the context of knowledge graphs, we perform a systematic survey, taking into account all these aspects mentioned previously. Our survey results show that most of the existing works focus on a specific aspect of resilience, namely robustness. After categorizing such works based on their respective aspects of resilience, we discuss the challenges and future research directions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google