Exploring and Controlling Diversity in LLM-Agent Conversation

要約

多様性は、マルチエージェントコミュニケーションの重要な側面です。
この論文では、特にワールド シミュレーション アプリケーションにおける、オープンドメインのマルチエージェント会話のコンテキストにおける多様性の制御と探索に焦点を当てます。
我々は、単一パラメータ ラムダ を使用して多様性を制御するために発話生成プロンプトの内容を動的に調整する新しい方法である適応プロンプト プルーニング (APP) を提案します。
広範な実験を通じて、APP がモデルとデータセット全体で出力の多様性を効果的に制御し、より多くの情報を刈り込むことでより多様な出力が得られることを示しました。
即効性のあるコンテンツと会話の多様性との関係を包括的に分析します。
私たちの調査結果では、プロンプトのすべてのコンポーネントからの情報が一般に出力の多様性を制限し、メモリ ブロックが最も大きな影響を及ぼしていることが明らかになりました。
APP は、温度サンプリングやトップ P サンプリングなどの確立された技術と互換性があり、多様性管理のための多用途ツールを提供します。
省略された情報の不一致など、多様性の増加によるトレードオフに対処するために、多様性の強化と出力の一貫性のバランスを効果的にとる生成後の修正ステップを組み込んでいます。
さらに、コンポーネントの順序や長さを含むプロンプト構造が多様性にどのような影響を与えるかを調査します。
この研究は、マルチエージェント世界シミュレーションにおける多様性をめぐる重要な疑問に対処し、その制御、影響要因、および関連するトレードオフについての洞察を提供します。
私たちの貢献は、LLM ベースのマルチエージェント コラボレーションにおける多様性を体系的にエンジニアリングするための基礎を築き、現実世界のアプリケーションでの効果を向上させます。

要約(オリジナル)

Diversity is a critical aspect of multi-agent communication. In this paper, we focus on controlling and exploring diversity in the context of open-domain multi-agent conversations, particularly for world simulation applications. We propose Adaptive Prompt Pruning (APP), a novel method that dynamically adjusts the content of the utterance generation prompt to control diversity using a single parameter, lambda. Through extensive experiments, we show that APP effectively controls the output diversity across models and datasets, with pruning more information leading to more diverse output. We comprehensively analyze the relationship between prompt content and conversational diversity. Our findings reveal that information from all components of the prompt generally constrains the diversity of the output, with the Memory block exerting the most significant influence. APP is compatible with established techniques like temperature sampling and top-p sampling, providing a versatile tool for diversity management. To address the trade-offs of increased diversity, such as inconsistencies with omitted information, we incorporate a post-generation correction step, which effectively balances diversity enhancement with output consistency. Additionally, we examine how prompt structure, including component order and length, impacts diversity. This study addresses key questions surrounding diversity in multi-agent world simulation, offering insights into its control, influencing factors, and associated trade-offs. Our contributions lay the foundation for systematically engineering diversity in LLM-based multi-agent collaborations, advancing their effectiveness in real-world applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google