要約
ほぼリアルタイムで新鮮な情報を取得し、それを使用して既存の大規模言語モデル (LLM) を拡張することは、最新で根拠のある信頼性の高い出力を生成するために不可欠です。
この問題は、エンティティが関与する最近のイベントや進行中のイベントに関連する Web 検索など、急速に進化する分野の情報タスクに LLM を使用する場合に特に困難になります。時間的に関連する応答を生成するには最新のニュース ソースにアクセスする必要があります。
しかし、LLM のパラメトリック メモリによってモデル化された情報は古いことが多く、プロトタイプの検索システムからの Web 結果は、最新の関連情報を取得できず、進化するニュースの中で矛盾するレポートを処理するのに苦労する可能性があります。
この課題に対処するために、ニュース記事で説明されているような、イベントやアクティビティなどの新たなエンティティの相互作用を抽出するように設計された NEON フレームワークを紹介します。
NEON は、そのようなやり取りをキャプチャするエンティティ中心のタイムスタンプ付きナレッジ グラフを構築し、それによってニュース イベントに関連する QA 機能の強化を促進します。
私たちのフレームワークは、オープン情報抽出 (openIE) スタイルのタプルを LLM に統合することで革新し、コンテキスト内での検索拡張生成を可能にします。
この統合により、一時的なエンティティ中心の検索クエリに取り組む際の QA パフォーマンスが大幅に向上することが実証されています。
NEON を通じて、LLM はより正確で信頼性の高い最新の応答を提供できます。
要約(オリジナル)
Capturing fresh information in near real-time and using it to augment existing large language models (LLMs) is essential to generate up-to-date, grounded, and reliable output. This problem becomes particularly challenging when LLMs are used for informational tasks in rapidly evolving fields, such as Web search related to recent or unfolding events involving entities, where generating temporally relevant responses requires access to up-to-the-hour news sources. However, the information modeled by the parametric memory of LLMs is often outdated, and Web results from prototypical retrieval systems may fail to capture the latest relevant information and struggle to handle conflicting reports in evolving news. To address this challenge, we present the NEON framework, designed to extract emerging entity interactions — such as events or activities — as described in news articles. NEON constructs an entity-centric timestamped knowledge graph that captures such interactions, thereby facilitating enhanced QA capabilities related to news events. Our framework innovates by integrating open Information Extraction (openIE) style tuples into LLMs to enable in-context retrieval-augmented generation. This integration demonstrates substantial improvements in QA performance when tackling temporal, entity-centric search queries. Through NEON, LLMs can deliver more accurate, reliable, and up-to-date responses.
arxiv情報
著者 | Sneha Singhania,Silviu Cucerzan,Allen Herring,Sujay Kumar Jauhar |
発行日 | 2024-11-19 12:17:43+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google