AgentDropout: Dynamic Agent Elimination for Token-Efficient and High-Performance LLM-Based Multi-Agent Collaboration

要約

大規模な言語モデル（LLM）に基づくマルチエージェントシステム（MAS）は、共同問題解決において重大な可能性を示しています。
しかし、彼らは依然として、コミュニケーションの効率が低く、最適ではないタスクのパフォーマンスの大きな課題に直面しており、エージェントのコミュニケーショントポロジの慎重な設計を特に重要にしています。
効率的なチームの役割が動的に調整されることが多いという管理理論に触発されて、エージェントドロップアウトを提案します。これは、通信グラフの隣接マトリックスを最適化することにより、さまざまなコミュニケーションラウンド全体で冗長エージェントと通信を識別し、トークンの効率とタスクのパフォーマンスを強化することでそれらを排除します。
最先端の方法と比較して、エージェントドロップアウトは、迅速なトークン消費で平均21.6％、完成トークン消費が18.4％減少し、タスクで1.14のパフォーマンス改善が得られます。
さらに、拡張された実験は、エージェントドロップアウトが顕著なドメインの転送可能性と構造の堅牢性を達成し、その信頼性と有効性を明らかにすることを示しています。
https://github.com/wangzx1219/agentdropoutでコードをリリースします。

要約(オリジナル)

Multi-agent systems (MAS) based on large language models (LLMs) have demonstrated significant potential in collaborative problem-solving. However, they still face substantial challenges of low communication efficiency and suboptimal task performance, making the careful design of the agents’ communication topologies particularly important. Inspired by the management theory that roles in an efficient team are often dynamically adjusted, we propose AgentDropout, which identifies redundant agents and communication across different communication rounds by optimizing the adjacency matrices of the communication graphs and eliminates them to enhance both token efficiency and task performance. Compared to state-of-the-art methods, AgentDropout achieves an average reduction of 21.6% in prompt token consumption and 18.4% in completion token consumption, along with a performance improvement of 1.14 on the tasks. Furthermore, the extended experiments demonstrate that AgentDropout achieves notable domain transferability and structure robustness, revealing its reliability and effectiveness. We release our code at https://github.com/wangzx1219/AgentDropout.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google