Retrieval-augmented Multilingual Knowledge Editing

要約

大規模言語モデル (LLM) で表される知識は、多くの場合不正確であり、時間の経過とともに陳腐化する可能性もあります。
微調整によるナレッジの更新は計算リソースを大量に消費し、信頼性が低いため、新しいナレッジを挿入したり、LLM の事実上のエラーを修正したりするための効果的かつ経済的な代替手段としてナレッジ編集 (KE) が開発されました。
この分野にはかなりの関心が寄せられていますが、現在の KE の研究はもっぱら単一言語環境、通常は英語に焦点を当てています。
ただし、新しい知識が 1 つの言語で提供され、LLM を別の言語でクエリしたい場合はどうなるでしょうか?
多言語知識編集の問題に対処するために、LLM の新しい知識を更新するための検索拡張多言語知識エディター (ReMaKE) を提案します。
ReMaKE は、多言語設定でモデルに依存しない知識編集を実行できます。
ReMaKE は、多言語知識ベースから取得した新しい知識をプロンプトと連結します。
私たちの実験結果は、ReMaKE がベースラインの知識編集手法を大幅に上回っており、多言語設定で機能する最初の KE 手法であることを示しています。
多言語ナレッジ編集データセット (MzsRE) を 12 言語で提供しています。コードおよび追加のプロジェクト情報は https://github.com/Vicky-Wil/ReMaKE で入手できます。

要約(オリジナル)

Knowledge represented in Large Language Models (LLMs) is quite often incorrect and can also become obsolete over time. Updating knowledge via fine-tuning is computationally resource-hungry and not reliable, and so knowledge editing (KE) has developed as an effective and economical alternative to inject new knowledge or to fix factual errors in LLMs. Although there has been considerable interest in this area, current KE research exclusively focuses on the monolingual setting, typically in English. However, what happens if the new knowledge is supplied in one language, but we would like to query the LLM in a different language? To address the problem of multilingual knowledge editing, we propose Retrieval-augmented Multilingual Knowledge Editor (ReMaKE) to update new knowledge in LLMs. ReMaKE can perform model-agnostic knowledge editing in multilingual settings. ReMaKE concatenates the new knowledge retrieved from a multilingual knowledge base with prompts. Our experimental results show that ReMaKE outperforms baseline knowledge editing methods by a significant margin and is the first KE method to work in a multilingual setting. We provide our multilingual knowledge editing dataset (MzsRE) in 12 languages, which along with code, and additional project information is available at https://github.com/Vicky-Wil/ReMaKE.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google