Multi-Agent Design: Optimizing Agents with Better Prompts and Topologies

要約

大規模な言語モデルは、相互に作用し協調する複数のエージェントとして採用され、複雑なタスクを解決することに優れている。エージェントは、エージェント間の相互作用を組織化するトポロジーとともに、その機能を宣言するプロンプトでプログラムされる。マルチエージェントシステム（MAS）のためのプロンプトとトポロジの設計は、本質的に複雑である。設計プロセス全体を自動化するために、我々はまず、効果的なMASを構築するための要因を理解することを目的として、設計空間の詳細な分析を行う。そして、より効果的なMASの設計を可能にするためには、トポロジーとともにプロンプトが重要な役割を果たすことを明らかにする。この洞察に基づき、我々は、プロンプトからトポロジーまで、局所的から大域的まで、最適化段階を3つの段階にわたってインターリーブすることにより、複雑なMAS設計空間を効率的に利用するMAS最適化フレームワークであるMulti-Agent System Search (MASS)を提案する：1)ブロックレベル（ローカル）プロンプト最適化、2)ワークフロー・トポロジー最適化、3)ワークフロー・レベル（グローバル）プロンプト最適化であり、各ステージは前ステージから繰り返し最適化されたプロンプト／トポロジーを条件としている。我々は、MASSによって最適化されたマルチエージェントシステムが、既存の様々な選択肢を大幅に上回ることを示す。最後に、MASSによって発見されたシステムを基に、効果的なマルチエージェントシステムを構築するための設計原理を提案する。

要約(オリジナル)

Large language models, employed as multiple agents that interact and collaborate with each other, have excelled at solving complex tasks. The agents are programmed with prompts that declare their functionality, along with the topologies that orchestrate interactions across agents. Designing prompts and topologies for multi-agent systems (MAS) is inherently complex. To automate the entire design process, we first conduct an in-depth analysis of the design space aiming to understand the factors behind building effective MAS. We reveal that prompts together with topologies play critical roles in enabling more effective MAS design. Based on the insights, we propose Multi-Agent System Search (MASS), a MAS optimization framework that efficiently exploits the complex MAS design space by interleaving its optimization stages, from local to global, from prompts to topologies, over three stages: 1) block-level (local) prompt optimization; 2) workflow topology optimization; 3) workflow-level (global) prompt optimization, where each stage is conditioned on the iteratively optimized prompts/topologies from former stages. We show that MASS-optimized multi-agent systems outperform a spectrum of existing alternatives by a substantial margin. Based on the MASS-found systems, we finally propose design principles behind building effective multi-agent systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL