Securing GenAI Multi-Agent Systems Against Tool Squatting: A Zero Trust Registry-Based Approach

要約

生成AI（GENAI）マルチエージェントシステム（MAS）の台頭により、エージェントが外部ツールを発見および相互作用できるようにする標準化されたプロトコルが必要です。
ただし、これらのプロトコルは、特に新しいセキュリティの課題を導入します。
ツールスクワット;
欺cept的な登録またはツールの表現。
このペーパーでは、モデルコンテキストプロトコル（MCP）やエージェントプロトコル間のシームレスな通信など、新たな相互運用性標準のコンテキスト内でツールしゃがむ脅威を分析します。
これらのリスクを軽減するために設計された包括的なツールレジストリシステムを導入します。
管理者制御登録、集中型ツール発見、専用エージェントおよびツールレジストリサービスを介して実施される細かい粒度のアクセスポリシー、ツールバージョンと既知の脆弱性に基づくダイナミックトラストスコアリングメカニズム、および時間内に資格提供を介したセキュリティ中心のアーキテクチャを提案します。
設計原則に基づいて、提案されたレジストリフレームワークは、マルチエージェントシステムの柔軟性とパワーを維持しながら、一般的なツールスクワットベクトルを効果的に防ぐことを目的としています。
この作業は、急速に進化するGenaiエコシステムの重要なセキュリティギャップに対処し、生産環境での安全なツール統合の基盤を提供します。

要約(オリジナル)

The rise of generative AI (GenAI) multi-agent systems (MAS) necessitates standardized protocols enabling agents to discover and interact with external tools. However, these protocols introduce new security challenges, particularly; tool squatting; the deceptive registration or representation of tools. This paper analyzes tool squatting threats within the context of emerging interoperability standards, such as Model Context Protocol (MCP) or seamless communication between agents protocols. It introduces a comprehensive Tool Registry system designed to mitigate these risks. We propose a security-focused architecture featuring admin-controlled registration, centralized tool discovery, fine grained access policies enforced via dedicated Agent and Tool Registry services, a dynamic trust scoring mechanism based on tool versioning and known vulnerabilities, and just in time credential provisioning. Based on its design principles, the proposed registry framework aims to effectively prevent common tool squatting vectors while preserving the flexibility and power of multi-agent systems. This work addresses a critical security gap in the rapidly evolving GenAI ecosystem and provides a foundation for secure tool integration in production environments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google