Improving Multi-Agent Debate with Sparse Communication Topology

要約

マルチエージェントディベートは、推論および事実性タスクの大規模言語モデルの品質を向上させるのに効果的であることが証明されています。
マルチエージェントの議論におけるさまざまなロールプレイング戦略が検討されていますが、エージェント間のコミュニケーションに関しては、既存のアプローチではブルート フォース アルゴリズムが採用されており、各エージェントは他のすべてのエージェントと通信できます。
この論文では、マルチエージェント システムにおける通信接続の影響を体系的に調査します。
GPT および Mistral モデルに関する私たちの実験では、スパース通信トポロジを活用したマルチエージェント ディベートが、計算コストを大幅に削減しながら、同等またはそれ以上のパフォーマンスを達成できることが明らかになりました。
さらに、マルチエージェントディベートフレームワークをマルチモーダル推論およびアラインメントラベリングタスクに拡張し、その幅広い適用性と有効性を示します。
私たちの調査結果は、「心の社会」アプローチの効率と有効性を高める上での通信接続の重要性を強調しています。

要約(オリジナル)

Multi-agent debate has proven effective in improving large language models quality for reasoning and factuality tasks. While various role-playing strategies in multi-agent debates have been explored, in terms of the communication among agents, existing approaches adopt a brute force algorithm — each agent can communicate with all other agents. In this paper, we systematically investigate the effect of communication connectivity in multi-agent systems. Our experiments on GPT and Mistral models reveal that multi-agent debates leveraging sparse communication topology can achieve comparable or superior performance while significantly reducing computational costs. Furthermore, we extend the multi-agent debate framework to multimodal reasoning and alignment labeling tasks, showcasing its broad applicability and effectiveness. Our findings underscore the importance of communication connectivity on enhancing the efficiency and effectiveness of the ‘society of minds’ approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google