ReadProbe: A Demo of Retrieval-Enhanced Large Language Models to Support Lateral Reading

要約

オンラインの誤った情報が急速に増加し、拡散しているため、人々はオンライン情報の信頼性と正確性を評価するのに役立つツールを必要としています。
複数の情報源を相互参照しながら情報を参照する戦略である横読みは、この目標を達成するための効果的なアプローチである可能性があります。
このペーパーでは、OpenAI と Bing 検索エンジンの生成大規模言語モデルを利用した、横読みをサポートするツール ReadProbe を紹介します。
当社のツールは、横読みに役立つ質問を生成し、Web で関連文書を検索し、ユーザーがオンライン情報をより適切に評価できるように、属性の明確な回答を生成できます。
ReadProbe が誤った情報に惑わされるリスクを軽減する方法を実証するために、Web ベースのアプリケーションを作成しました。
コードは https://github.com/DakeZhang1998/ReadProbe で入手できます。
私たちのツールの以前のバージョンは、全国規模の AI 誤情報ハッカソンで優勝しました。

要約(オリジナル)

With the rapid growth and spread of online misinformation, people need tools to help them evaluate the credibility and accuracy of online information. Lateral reading, a strategy that involves cross-referencing information with multiple sources, may be an effective approach to achieving this goal. In this paper, we present ReadProbe, a tool to support lateral reading, powered by generative large language models from OpenAI and the Bing search engine. Our tool is able to generate useful questions for lateral reading, scour the web for relevant documents, and generate well-attributed answers to help people better evaluate online information. We made a web-based application to demonstrate how ReadProbe can help reduce the risk of being misled by false information. The code is available at https://github.com/DakeZhang1998/ReadProbe. An earlier version of our tool won the first prize in a national AI misinformation hackathon.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google