Performance Evaluation of Knowledge Graph Embedding Approaches under Non-adversarial Attacks

要約

ナレッジ グラフ エンベディング (KGE) は、離散的なナレッジ グラフ (KG) を連続ベクトル空間に変換し、セマンティック検索、質問応答、レコメンダーなどのさまざまな AI 駆動アプリケーションでの使用を容易にします。
KGE アプローチはこれらのアプリケーションでは効果的ですが、既存のアプローチのほとんどは、特定の KG 内のすべての情報が正しいことを前提としています。
これにより、攻撃者は入力を混乱させるなどして、これらのアプローチの出力に影響を与えることができます。
したがって、このような KGE アプローチの堅牢性に対処する必要があります。
最近の研究は敵対的攻撃に焦点を当てています。
ただし、これらのアプローチのすべての攻撃対象領域に対する非敵対的攻撃は徹底的に調査されていません。
私たちは、グラフ、パラメーター、ラベル摂動という 3 つの攻撃面に対する攻撃に関して、5 つのデータセットに対する 5 つの最先端の KGE アルゴリズムのパフォーマンスに対する非敵対的攻撃の影響を評価することで、このギャップを埋めています。
私たちの評価結果は、ラベルの摂動が KGE パフォーマンスに強い影響を及ぼし、次にパラメーターの摂動が中程度で、グラフが低い影響を与えることを示唆しています。

要約(オリジナル)

Knowledge Graph Embedding (KGE) transforms a discrete Knowledge Graph (KG) into a continuous vector space facilitating its use in various AI-driven applications like Semantic Search, Question Answering, or Recommenders. While KGE approaches are effective in these applications, most existing approaches assume that all information in the given KG is correct. This enables attackers to influence the output of these approaches, e.g., by perturbing the input. Consequently, the robustness of such KGE approaches has to be addressed. Recent work focused on adversarial attacks. However, non-adversarial attacks on all attack surfaces of these approaches have not been thoroughly examined. We close this gap by evaluating the impact of non-adversarial attacks on the performance of 5 state-of-the-art KGE algorithms on 5 datasets with respect to attacks on 3 attack surfaces-graph, parameter, and label perturbation. Our evaluation results suggest that label perturbation has a strong effect on the KGE performance, followed by parameter perturbation with a moderate and graph with a low effect.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google