Reliable Collaborative Conversational Agent System Based on LLMs and Answer Set Programming

要約

大規模な言語モデル駆動型（LLM駆動型）人工知能（AI）ボットが人気を博したため、人々はタスク指向の対話（TOD）における彼らの強い可能性に気付きました。
ただし、LLMSに完全に依存しているボットは知識において信頼できず、タスクの正しい結果を最終的に生成できるかどうかは保証されません。
これらのエージェント間のコラボレーションも依然として課題のままです。なぜなら、伝えるために必要な情報は不明であり、情報の転送はプロンプトによるものであるためです。信頼性が低く、悪意のある知識は簡単に注入できます。
回答セットプログラミング（ASP）などの知識表現と推論ツールの助けを借りて、会話エージェントは安全かつ確実に構築でき、エージェント間のコミュニケーションもより信頼性が高くなります。
ASP駆動型のボットが同じ知識ベースを共有し、割り当てられたタスクを独立して完成させるマネージャーカスタマーサービスのデュアルエージェントパラダイムを提案します。
エージェントは、知識ベースを通じて互いに通信し、一貫性を確保します。
伝えられる知識と情報は、カプセル化され、ユーザーには見えないものであり、情報伝達のセキュリティを確保します。
デュアルエージェントの会話パラダイムを説明するために、米国のTaco Bellなどのファーストフードレストランのドライブスルーウィンドウを管理するためのコラボレーションシステムであるAutomanagerを構築しました。
Automanagerでは、カスタマーサービスボットが顧客の注文を受け取り、マネージャーボットがメニューと食料供給を管理します。
Automanagerシステムを評価し、実際のTaco Bell Drive-Thru Ai Order Takerと比較しました。結果は、この方法がより信頼性が高いことを示しています。

要約(オリジナル)

As the Large-Language-Model-driven (LLM-driven) Artificial Intelligence (AI) bots became popular, people realized their strong potential in Task-Oriented Dialogue (TOD). However, bots relying wholly on LLMs are unreliable in their knowledge, and whether they can finally produce a correct outcome for the task is not guaranteed. The collaboration among these agents also remains a challenge, since the necessary information to convey is unclear, and the information transfer is by prompts: unreliable, and malicious knowledge is easy to inject. With the help of knowledge representation and reasoning tools such as Answer Set Programming (ASP), conversational agents can be built safely and reliably, and communication among the agents made more reliable as well. We propose a Manager-Customer-Service Dual-Agent paradigm, where ASP-driven bots share the same knowledge base and complete their assigned tasks independently. The agents communicate with each other through the knowledge base, ensuring consistency. The knowledge and information conveyed are encapsulated and invisible to the users, ensuring the security of information transmission. To illustrate the dual-agent conversational paradigm, we have constructed AutoManager, a collaboration system for managing the drive-through window of a fast-food restaurant such as Taco Bell in the US. In AutoManager, the customer service bot takes the customer’s order while the manager bot manages the menu and food supply. We evaluated our AutoManager system and compared it with the real-world Taco Bell Drive-Thru AI Order Taker, and the results show that our method is more reliable.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google