Talk2X — An Open-Source Toolkit Facilitating Deployment of LLM-Powered Chatbots on the Web

要約

ウェブサイトに統合されたLLMを搭載したチャットボットは、ナビゲーションと情報検索の代替手段を提供し、ユーザーがウェブ上で情報にアクセスする方法のシフトにつながる。しかし、主にクローズドソースソリューションは、ウェブホスト間での普及を制限し、実装の詳細やエネルギー効率に関する透明性の欠如に悩まされている。本研究では、自動生成されたベクトルデータベースと、適応された検索拡張生成アプローチ（RAG）を活用し、エネルギー効率に有利な、オープンに利用可能なエージェントTalk2Xを提案する。Talk2Xのアーキテクチャーは、任意のウェブサイトに汎用可能であり、開発者に統合のためのツールを提供する。ミックスドメソッドアプローチを用いて、オープンサイエンスリポジトリから特定のアセットを取得するタスクをユーザーに課し、Talk2Xのユーザビリティを評価した。Talk2Xは、標準的なユーザーとウェブサイトのインタラクションに比べ、タスク完了時間、正確性、ユーザーエクスペリエンスを大幅に改善し、ユーザーが特定の情報を素早くピンポイントで取得することをサポートした。我々の発見は、ウェブ上の情報へのアクセス方法の進行中のパラダイムシフトへの技術的進歩に貢献するものである。

要約(オリジナル)

Integrated into websites, LLM-powered chatbots offer alternative means of navigation and information retrieval, leading to a shift in how users access information on the web. Yet, predominantly closed-sourced solutions limit proliferation among web hosts and suffer from a lack of transparency with regard to implementation details and energy efficiency. In this work, we propose our openly available agent Talk2X leveraging an adapted retrieval-augmented generation approach (RAG) combined with an automatically generated vector database, benefiting energy efficiency. Talk2X’s architecture is generalizable to arbitrary websites offering developers a ready to use tool for integration. Using a mixed-methods approach, we evaluated Talk2X’s usability by tasking users to acquire specific assets from an open science repository. Talk2X significantly improved task completion time, correctness, and user experience supporting users in quickly pinpointing specific information as compared to standard user-website interaction. Our findings contribute technical advancements to an ongoing paradigm shift of how we access information on the web.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL