Exploring and Controlling Diversity in LLM-Agent Conversation

要約

LLM-Agent Worldシミュレーションの多様性の制御は、創造性が必要な変動を可能にしながら、構造化されたタスクの安定性を維持するために不可欠です。
ただし、対話の多様性は長期シミュレーションで大幅に低下することがわかります。
会話の多様性における迅速な設計の役割を調査するために、発話生成プロンプトをモジュール化し、与えられた情報を減らすとより多様な出力につながることがわかりました。
この洞察に基づいて、ユーザーが単一のパラメーターであるLambdaを介して多様性を制御できる新しい方法であるAdaptive Prompt Pruning（APP）を提案します。
アプリは、注意力に基づいて発話生成プロンプトを動的に剪定し、従来の多様性制御技術と互換性があります。
APPは、広範な実験を通じて出力の多様性を効果的に制御し、制御トレードオフのバランスをとる方法を提案することを実証します。
さらに、マルチエージェントシミュレーションの多様性制御の最適化に関する洞察を提供するための詳細な分析を提供します。

要約(オリジナル)

Controlling diversity in LLM-agent world simulations is essential for maintaining stability in structured tasks while enabling variation where creativity is needed. However, we observe that dialogue diversity declines significantly over long-term simulation. To investigate the role of prompt design in conversational diversity, we modularized the utterance generation prompt and found that reducing the given information leads to more diverse outputs. Based on this insight, we propose Adaptive Prompt Pruning (APP), a novel method that allows users to control diversity through a single parameter, lambda. APP dynamically prunes the utterance generation prompt based on their attention weights and is compatible with traditional diversity control techniques. We demonstrate that APP effectively controls output diversity through extensive experiments, and propose a method to balance the control trade-offs. Additionally, we provide an in-depth analysis to offer insights into optimizing diversity control in multi-agent simulation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google