Formally Specifying the High-Level Behavior of LLM-Based Agents

要約

LLM ベースのエージェントは、調達コストがかかるタスク固有の微調整されたモデルを必要とせずに、困難な問題を解決できる有望なツールとして最近登場しました。
現在、LLM ベースのエージェントは多種多様なタスクに適用できるため、エージェントの設計に画一的なアプローチは存在しないため、そのようなエージェントの設計と実装はアドホックです。
この研究では、エージェントの構築プロセスを簡素化する最小限の高レベルの生成フレームワークを提案することで、新しいエージェントの設計と実装の難しさを軽減することを目指しています。
私たちが導入するフレームワークを使用すると、ユーザーは線形時相論理 (LTL) で望ましいエージェントの動作を指定できます。
次に、宣言型 LTL 仕様を使用して、LLM が望ましい動作を示す出力を生成することを保証する制約付きデコーダーを構築します。
このようにフレームワークを設計することで、複雑なエージェントの動作を強制する機能、プロンプトの例を正式に検証する機能、コンテンツに焦点を当てた論理制約を生成にシームレスに組み込む機能など、いくつかの利点が得られます。
特に、望ましい動作をどのように実装または強制するかを考慮せずに単に記述するという宣言型アプローチにより、さまざまな LLM ベースのエージェントを使用した迅速な設計、実装、および実験が可能になります。
提案されたフレームワークを使用して最近の LLM ベースのエージェントを実装する方法を示し、私たちのアプローチが提供するガードレールがエージェントのパフォーマンスの向上にどのようにつながるかを示します。
さらに、一般使用のためにコードをリリースします。

要約(オリジナル)

LLM-based agents have recently emerged as promising tools for solving challenging problems without the need for task-specific finetuned models that can be expensive to procure. Currently, the design and implementation of such agents is ad hoc, as the wide variety of tasks that LLM-based agents may be applied to naturally means there can be no one-size-fits-all approach to agent design. In this work we aim to alleviate the difficulty of designing and implementing new agents by proposing a minimalistic, high-level generation framework that simplifies the process of building agents. The framework we introduce allows the user to specify desired agent behaviors in Linear Temporal Logic (LTL). The declarative LTL specification is then used to construct a constrained decoder that guarantees the LLM will produce an output exhibiting the desired behavior. By designing our framework in this way, we obtain several benefits, including the ability to enforce complex agent behavior, the ability to formally validate prompt examples, and the ability to seamlessly incorporate content-focused logical constraints into generation. In particular, our declarative approach, in which the desired behavior is simply described without concern for how it should be implemented or enforced, enables rapid design, implementation and experimentation with different LLM-based agents. We demonstrate how the proposed framework can be used to implement recent LLM-based agents, and show how the guardrails our approach provides can lead to improvements in agent performance. In addition, we release our code for general use.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google