Large Model Based Agents: State-of-the-Art, Cooperation Paradigms, Security and Privacy, and Future Trends

要約

ラージ モデル (LM) の急速な進歩に伴い、LM を活用した汎用インテリジェント エージェントの開発が現実になりました。
近い将来、LM 駆動の汎用 AI エージェントが、人間の介入なしで自律的な通信とコラボレーションが可能な、生産タスクに不可欠なツールとして機能するようになることが予測されます。
このペーパーでは、将来の LM エージェントの自律的なコラボレーションを含むシナリオを調査します。
LM エージェントの現状、LM エージェントのコラボレーションを可能にする主要なテクノロジー、および共同運用中に直面するセキュリティとプライバシーの課題を検討します。
この目的を達成するために、まず、一般的なアーキテクチャ、主要コンポーネント、実現テクノロジー、最新のアプリケーションなど、LM エージェントの基本原理を検討します。
次に、LM エージェント間の接続されたインテリジェンスを実現するための、データ、計算、知識の観点から実践的なコラボレーション パラダイムについて説明します。
その後、特にマルチエージェント設定における LM エージェントに関連するセキュリティ脆弱性とプライバシー リスクを分析し、基礎となるメカニズムを調査し、現在および潜在的な対策を検討します。
最後に、堅牢で安全な LM エージェント エコシステムを構築するための将来の研究の方向性を提案します。

要約(オリジナル)

With the rapid advancement of large models (LMs), the development of general-purpose intelligent agents powered by LMs has become a reality. It is foreseeable that in the near future, LM-driven general AI agents will serve as essential tools in production tasks, capable of autonomous communication and collaboration without human intervention. This paper investigates scenarios involving the autonomous collaboration of future LM agents. We review the current state of LM agents, the key technologies enabling LM agent collaboration, and the security and privacy challenges they face during cooperative operations. To this end, we first explore the foundational principles of LM agents, including their general architecture, key components, enabling technologies, and modern applications. We then discuss practical collaboration paradigms from data, computation, and knowledge perspectives to achieve connected intelligence among LM agents. After that, we analyze the security vulnerabilities and privacy risks associated with LM agents, particularly in multi-agent settings, examining underlying mechanisms and reviewing current and potential countermeasures. Lastly, we propose future research directions for building robust and secure LM agent ecosystems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google