A Survey of Large Language Models Attribution

要約

オープンドメインの生成システムは、会話型 AI (生成検索エンジンなど) の分野で大きな注目を集めています。
この文書では、これらのシステム、特に大規模な言語モデルで採用されている帰属メカニズムの包括的なレビューを示します。
帰属または引用によって事実性と検証可能性は向上しますが、曖昧な知識の宝庫、固有のバイアス、および過剰な帰属の欠点などの問題により、これらのシステムの有効性が妨げられる可能性があります。
この調査の目的は、研究者に貴重な洞察を提供し、アトリビューション手法の改良を支援して、オープンドメイン生成システムによって生成される応答の信頼性と真実性を高めることです。
私たちは、この分野はまだ初期段階にあると考えています。
そのため、進行中の研究を追跡するためのリポジトリを https://github.com/HITsz-TMG/awesome-llm-attributions で管理しています。

要約(オリジナル)

Open-domain generative systems have gained significant attention in the field of conversational AI (e.g., generative search engines). This paper presents a comprehensive review of the attribution mechanisms employed by these systems, particularly large language models. Though attribution or citation improve the factuality and verifiability, issues like ambiguous knowledge reservoirs, inherent biases, and the drawbacks of excessive attribution can hinder the effectiveness of these systems. The aim of this survey is to provide valuable insights for researchers, aiding in the refinement of attribution methodologies to enhance the reliability and veracity of responses generated by open-domain generative systems. We believe that this field is still in its early stages; hence, we maintain a repository to keep track of ongoing studies at https://github.com/HITsz-TMG/awesome-llm-attributions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google