要約
LLM は目覚ましい成功を収めていますが、入力クエリやツール引数の説明が不十分であるため、依然としてツール呼び出しやツール チェーンの問題に悩まされています。
私たちは、RE-GAINS と EnCHANT という 2 つの新しいフレームワークを提案します。これにより、LLM は API 呼び出しを行うことで、複雑なユーザー クエリを解決するためのツール操作に取り組むことができます。
EnCHANT は、LLM 形式のエンフォーサー、LLM (OpenChat 3.5) およびレトリーバー (ToolBench の API レトリーバー) を利用するオープンソース ソリューションです。
RE-GAINS は、OpenAI モデルと、RAP 論文に基づく特別なプロンプトを使用した埋め込みに基づいています。
どちらのソリューションも、クエリあたりのコストが 0.01 ドル未満で、遅延が最小限に抑えられているため、フレームワークの有用性がわかります。
要約(オリジナル)
Despite the remarkable success of LLMs, they still suffer from tool invocation and tool chaining due to inadequate input queries and/or tool argument descriptions. We propose two novel frameworks, RE-GAINS and EnCHANT, enabling LLMs to tackle tool manipulation for solving complex user queries by making API calls. EnCHANT is an open-source solution that makes use of an LLM format enforcer, an LLM(OpenChat 3.5) and a retriever(ToolBench’s API Retriever). RE-GAINS is based on OpenAI models and embeddings using a special prompt based on the RAP paper. Both solutions cost less than $0.01 per query with minimal latency, therefore showcasing the usefulness of the frameworks.
arxiv情報
| 著者 | Sahil Girhepuje,Siva Sankar Sajeev,Purvam Jain,Arya Sikder,Adithya Rama Varma,Ryan George,Akshay Govind Srinivasan,Mahendra Kurup,Ashmit Sinha,Sudip Mondal |
| 発行日 | 2024-06-17 17:59:34+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google