Agentic AI: The Era of Semantic Decoding

要約

最近の研究は、LLMS、人間の入力、およびLLMの固有の制限に対処するためのさまざまなツールの間の共同作業を組織するという考えに大きな期待を示しました。
セマンティックデコードと呼ばれる新しい視点を提案します。セマンティックデコードは、これらの共同プロセスをセマンティックスペースの最適化手順としてフレーム化します。
具体的には、LLMSを意味のある情報を操作するセマンティックプロセッサとして概念化します。
LLMは、検索エンジンやコードエグゼクティアなど、人間やツールを含む他のセマンティックプロセッサの大きなプールの1つです。
集合的に、セマンティックプロセッサは、セマンティックトークンの動的な交換に従事し、高効用出力を徐々に構築します。
セマンティックプロセッサ間のこれらの組織化された相互作用を参照し、セマンティックデコードアルゴリズムとしてセマンティックスペースで最適化および検索します。
この概念は、構文デコードの適切に研究された問題と直接並行して並行しています。これには、アルゴリズムの高効率シーケンスを抽出するための自動再帰言語モデルを最適に活用することが含まれます。
セマンティックレベルに焦点を当て、構文の詳細を無視することにより、AIシステムのエンジニアリングに関する新たな視点を獲得し、はるかに複雑さと能力を持つシステムを想像できるようになります。
このポジションペーパーでは、構文トークンからセマンティックトークンへの移行と、構文とセマンティックデコードの類似性を正式にします。
その後、セマンティックデコードアルゴリズムを介してセマンティックトークンのスペース内で最適化する可能性を調査します。
この新鮮な観点から生じる研究の機会と質問のリストで締めくくります。
セマンティックデコードの視点は、意味のある概念の空間で直接検索と最適化のための強力な抽象化を提供し、セマンティックトークンは新しいタイプの計算の基本単位としてです。

要約(オリジナル)

Recent work demonstrated great promise in the idea of orchestrating collaborations between LLMs, human input, and various tools to address the inherent limitations of LLMs. We propose a novel perspective called semantic decoding, which frames these collaborative processes as optimization procedures in semantic space. Specifically, we conceptualize LLMs as semantic processors that manipulate meaningful pieces of information that we call semantic tokens (known thoughts). LLMs are among a large pool of other semantic processors, including humans and tools, such as search engines or code executors. Collectively, semantic processors engage in dynamic exchanges of semantic tokens to progressively construct high-utility outputs. We refer to these orchestrated interactions among semantic processors, optimizing and searching in semantic space, as semantic decoding algorithms. This concept draws a direct parallel to the well-studied problem of syntactic decoding, which involves crafting algorithms to best exploit auto-regressive language models for extracting high-utility sequences of syntactic tokens. By focusing on the semantic level and disregarding syntactic details, we gain a fresh perspective on the engineering of AI systems, enabling us to imagine systems with much greater complexity and capabilities. In this position paper, we formalize the transition from syntactic to semantic tokens as well as the analogy between syntactic and semantic decoding. Subsequently, we explore the possibilities of optimizing within the space of semantic tokens via semantic decoding algorithms. We conclude with a list of research opportunities and questions arising from this fresh perspective. The semantic decoding perspective offers a powerful abstraction for search and optimization directly in the space of meaningful concepts, with semantic tokens as the fundamental units of a new type of computation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google