Vector Symbolic Architectures as a Computing Framework for Emerging Hardware

要約

この記事では、コンピューティング フレームワーク ベクトル シンボリック アーキテクチャ (VSA) (超次元コンピューティングとも呼ばれる) の開発における最近の進歩について概説します。
このフレームワークは、確率論的な新興ハードウェアでの実装に適しており、人工知能 (AI) に必要な種類の認知操作を自然に表現します。
この記事では、VSA のフィールドのような代数構造が、現代のコンピューティングに関連するすべてのデータ構造と操作をサポートできる高次元ベクトルに対するシンプルかつ強力な演算を提供することを示します。
さらに、従来のコンピューティングとは一線を画す、VSA の特徴である「重ね合わせでのコンピューティング」についても説明します。
また、AI アプリケーションに固有の困難な組み合わせ検索問題に対する効率的な解決策への扉も開かれます。
VSA が計算上普遍的であることを実証する方法をスケッチします。
これらは、分散表現を使用したコンピューティングのフレームワークとして機能し、新しいコンピューティング ハードウェアの抽象化レイヤーの役割を果たすことができると考えられます。
この記事は、VSA の背後にある哲学、VSA を使用した分散コンピューティングの技術、およびニューロモーフィック コンピューティングなどの新しいコンピューティング ハードウェアとの関連性を説明することで、コンピューター アーキテクトの参考として役立ちます。

要約(オリジナル)

This article reviews recent progress in the development of the computing framework vector symbolic architectures (VSA) (also known as hyperdimensional computing). This framework is well suited for implementation in stochastic, emerging hardware, and it naturally expresses the types of cognitive operations required for artificial intelligence (AI). We demonstrate in this article that the field-like algebraic structure of VSA offers simple but powerful operations on high-dimensional vectors that can support all data structures and manipulations relevant to modern computing. In addition, we illustrate the distinguishing feature of VSA, ‘computing in superposition,’ which sets it apart from conventional computing. It also opens the door to efficient solutions to the difficult combinatorial search problems inherent in AI applications. We sketch ways of demonstrating that VSA are computationally universal. We see them acting as a framework for computing with distributed representations that can play a role of an abstraction layer for emerging computing hardware. This article serves as a reference for computer architects by illustrating the philosophy behind VSA, techniques of distributed computing with them, and their relevance to emerging computing hardware, such as neuromorphic computing.

arxiv情報

著者 Denis Kleyko,Mike Davies,E. Paxon Frady,Pentti Kanerva,Spencer J. Kent,Bruno A. Olshausen,Evgeny Osipov,Jan M. Rabaey,Dmitri A. Rachkovskij,Abbas Rahimi,Friedrich T. Sommer
発行日 2023-07-20 16:47:20+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.AR パーマリンク