EchoSight: Advancing Visual-Language Models with Wiki Knowledge

要約

知識ベースのビジュアル質問応答 (KVQA) タスクでは、広範な背景知識を使用して画像に関する質問に答える必要があります。
大きな進歩にもかかわらず、生成モデルは外部知識の統合が限られているため、これらのタスクに苦労することがよくあります。
この論文では、大規模言語モデル (LLM) がきめ細かい百科事典的な知識を必要とする視覚的な質問に答えることを可能にする、新しいマルチモーダル検索拡張生成 (RAG) フレームワークである EchoSight を紹介します。
高いパフォーマンスの検索を実現するために、EchoSight はまず視覚のみの情報を使用して Wiki 記事を検索し、その後、テキストと画像を組み合わせたクエリとの関連性に基づいて、これらの候補記事をさらに再ランク付けします。
このアプローチにより、マルチモーダルな知識の統合が大幅に改善され、検索結果が強化され、VQA 応答がより正確になります。
Encyclopedic VQA と InfoSeek データセットに関する実験結果は、EchoSight が知識ベース VQA で新しい最先端の結果を確立し、Encyclopedic VQA で 41.8%、InfoSeek で 31.3% の精度を達成したことを示しています。

要約(オリジナル)

Knowledge-based Visual Question Answering (KVQA) tasks require answering questions about images using extensive background knowledge. Despite significant advancements, generative models often struggle with these tasks due to the limited integration of external knowledge. In this paper, we introduce EchoSight, a novel multimodal Retrieval-Augmented Generation (RAG) framework that enables large language models (LLMs) to answer visual questions requiring fine-grained encyclopedic knowledge. To strive for high-performing retrieval, EchoSight first searches wiki articles by using visual-only information, subsequently, these candidate articles are further reranked according to their relevance to the combined text-image query. This approach significantly improves the integration of multimodal knowledge, leading to enhanced retrieval outcomes and more accurate VQA responses. Our experimental results on the Encyclopedic VQA and InfoSeek datasets demonstrate that EchoSight establishes new state-of-the-art results in knowledge-based VQA, achieving an accuracy of 41.8% on Encyclopedic VQA and 31.3% on InfoSeek.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google