Infrastructure for AI Agents

要約

電話をかけたり、オンライン商品を購入したりするなど、オープンエンド環境でのインタラクションを計画および実行できる AI システムが増えています。
開発者がそのような AI エージェントが実行できるタスクの領域を拡大するにつれて、AI エージェントの利点を最大限に活用し、リスクを管理するためのツールが必要になります。
現在のツールは、エージェントが既存の機関 (例: 法律および経済システム) またはアクター (例: デジタル サービス プロバイダー、人間、他の AI エージェント) とどのように対話するかを形作るように設計されていないため、ほとんど不十分です。
たとえば、調整技術は本質的に、ユーザーがエージェントに違法行為の実行を指示した場合に誰かが責任を負うことを取引相手に保証するものではありません。
このギャップを埋めるために、私たちはエージェント インフラストラクチャの概念を提案します。これは、環境との相互作用や環境への影響を仲介し影響を与えるように設計された、エージェントの外部にある技術システムと共有プロトコルです。
エージェント インフラストラクチャは、新しいツールと、既存のツールの再構成または拡張機能の両方で構成されます。
たとえば、説明責任を容易にするために、ユーザーをエージェントに結び付けるプロトコルは、OpenID などのユーザー認証用の既存のシステムに基づいて構築される可能性があります。
インターネットが HTTPS のようなインフラストラクチャに依存しているのと同様に、エージェントのインフラストラクチャも同様にエージェントのエコシステムに不可欠になると私たちは主張します。
私たちはエージェント インフラストラクチャの 3 つの機能を特定します。1) アクション、プロパティ、およびその他の情報を特定のエージェント、そのユーザー、または他のアクターに帰属させる。
2) エージェントの相互作用を形成する。
3) エージェントによる有害な行為を検出し、是正する。
各機能の実現に役立つインフラストラクチャを提案し、ユースケース、採用、制限、未解決の質問について説明します。
エージェントのインフラストラクチャを進歩させることで、社会がより高度なエージェントを導入できるように準備することができます。

要約(オリジナル)

Increasingly many AI systems can plan and execute interactions in open-ended environments, such as making phone calls or buying online goods. As developers grow the space of tasks that such AI agents can accomplish, we will need tools both to unlock their benefits and manage their risks. Current tools are largely insufficient because they are not designed to shape how agents interact with existing institutions (e.g., legal and economic systems) or actors (e.g., digital service providers, humans, other AI agents). For example, alignment techniques by nature do not assure counterparties that some human will be held accountable when a user instructs an agent to perform an illegal action. To fill this gap, we propose the concept of agent infrastructure: technical systems and shared protocols external to agents that are designed to mediate and influence their interactions with and impacts on their environments. Agent infrastructure comprises both new tools and reconfigurations or extensions of existing tools. For example, to facilitate accountability, protocols that tie users to agents could build upon existing systems for user authentication, such as OpenID. Just as the Internet relies on infrastructure like HTTPS, we argue that agent infrastructure will be similarly indispensable to ecosystems of agents. We identify three functions for agent infrastructure: 1) attributing actions, properties, and other information to specific agents, their users, or other actors; 2) shaping agents’ interactions; and 3) detecting and remedying harmful actions from agents. We propose infrastructure that could help achieve each function, explaining use cases, adoption, limitations, and open questions. Making progress on agent infrastructure can prepare society for the adoption of more advanced agents.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google