Tool Learning with Large Language Models: A Survey

要約

最近、大規模言語モデル (LLM) を使用したツール学習が、LLM の機能を強化して非常に複雑な問題に取り組むための有望なパラダイムとして浮上しています。
この分野での注目の高まりと急速な進歩にもかかわらず、既存の文献は依然として断片的で体系的な構成に欠けており、新規参入者にとって参入障壁となっています。
このギャップにより、LLM を使用したツール学習に関する既存の研究の包括的な調査を実施する動機が生まれました。
この調査では、(1) ツール学習がなぜ有益なのか、(2) ツール学習がどのように実装されるのかという 2 つの主要な側面から既存の文献をレビューすることに焦点を当て、LLM によるツール学習の包括的な理解を可能にします。
まず、ツール統合の利点とツール学習パラダイムの固有の利点の両方を 6 つの特定の側面から検討することで、「理由」を探ります。
「方法」の観点からは、ツール学習ワークフローの 4 つの主要な段階 (タスク計画、ツール選択、ツール呼び出し、応答生成) の分類に従って文献を体系的にレビューします。
さらに、既存のベンチマークと評価方法の詳細な概要を提供し、さまざまな段階との関連性に応じて分類します。
最後に、研究者と産業開発者の両方がこの新興の有望な分野をさらに探究するよう促すことを目的として、現在の課題について議論し、潜在的な将来の方向性を概説します。
また、https://github.com/quchangle1/LLM-Tool-Survey で、この注目分野の関連論文やリソースを継続的に追跡するために、GitHub リポジトリも維持しています。

要約(オリジナル)

Recently, tool learning with large language models (LLMs) has emerged as a promising paradigm for augmenting the capabilities of LLMs to tackle highly complex problems. Despite growing attention and rapid advancements in this field, the existing literature remains fragmented and lacks systematic organization, posing barriers to entry for newcomers. This gap motivates us to conduct a comprehensive survey of existing works on tool learning with LLMs. In this survey, we focus on reviewing existing literature from the two primary aspects (1) why tool learning is beneficial and (2) how tool learning is implemented, enabling a comprehensive understanding of tool learning with LLMs. We first explore the ‘why’ by reviewing both the benefits of tool integration and the inherent benefits of the tool learning paradigm from six specific aspects. In terms of ‘how’, we systematically review the literature according to a taxonomy of four key stages in the tool learning workflow: task planning, tool selection, tool calling, and response generation. Additionally, we provide a detailed summary of existing benchmarks and evaluation methods, categorizing them according to their relevance to different stages. Finally, we discuss current challenges and outline potential future directions, aiming to inspire both researchers and industrial developers to further explore this emerging and promising area. We also maintain a GitHub repository to continually keep track of the relevant papers and resources in this rising area at https://github.com/quchangle1/LLM-Tool-Survey.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google