Harnessing the power of LLMs for normative reasoning in MASs

要約

ソフトウェア エージェントは、人間とコンピュータの両方で孤立して存在するわけではなく、多くの場合、目的を達成するために他のエージェントと協力または調整する必要があります。
人間社会では、規範などの社会的メカニズムが効率的な機能を保証しており、これらの技術は、社会的認識のあるエージェントを作成するためにマルチエージェント システム (MAS) の研究者によって採用されています。
ただし、従来の手法には、脆弱な記号的推論を使用することが多く、限られた環境で動作するなどの制限があります。
大規模言語モデル (LLM) の出現により、規範に関する豊富で表現力豊かな語彙が提供され、規範の発見、規範的推論、意思決定などのさまざまなタスクを実行できる規範対応エージェントが可能になる、有望なソリューションが提供されます。
この論文では、最近の自然言語処理 (NLP) と LLM の研究に基づいて、LLM ベースのエージェントが規範的な機能を獲得する可能性を検討します。
標準的な LLM エージェントを作成するためのビジョンを示します。
特に、最近提案された「LLM エージェント」アプローチをどのように拡張して、このような標準的な LLM エージェントを実装できるかについて説明します。
また、この新興分野における課題にも焦点を当てます。
したがって、この論文は、規範的エージェントの分野を前進させるために、MAS、NLP、および LLM の研究者間の協力を促進することを目的としています。

要約(オリジナル)

Software agents, both human and computational, do not exist in isolation and often need to collaborate or coordinate with others to achieve their goals. In human society, social mechanisms such as norms ensure efficient functioning, and these techniques have been adopted by researchers in multi-agent systems (MAS) to create socially aware agents. However, traditional techniques have limitations, such as operating in limited environments often using brittle symbolic reasoning. The advent of Large Language Models (LLMs) offers a promising solution, providing a rich and expressive vocabulary for norms and enabling norm-capable agents that can perform a range of tasks such as norm discovery, normative reasoning and decision-making. This paper examines the potential of LLM-based agents to acquire normative capabilities, drawing on recent Natural Language Processing (NLP) and LLM research. We present our vision for creating normative LLM agents. In particular, we discuss how the recently proposed ‘LLM agent’ approaches can be extended to implement such normative LLM agents. We also highlight challenges in this emerging field. This paper thus aims to foster collaboration between MAS, NLP and LLM researchers in order to advance the field of normative agents.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google