In-memory factorization of holographic perceptual representations

要約

感覚信号の構成要素の分解は、知覚や認知の中心であり、将来の人工知能システムにとって重要な課題である。本論文では、脳から着想を得た超次元コンピューティングの重ね合わせ計算機能と、ナノスケールのメモリスティックデバイスに基づくアナログインメモリコンピューティングに内在する確率性を利用し、ホログラフィック知覚表現を効率的に分解する計算エンジンを提案する。このような反復型インメモリ因数分解器は、他の方法では解決できない少なくとも5桁の規模の問題を解決し、同時に計算時間と空間の複雑さを大幅に低減することが示される。本発表では、相変化メモリデバイスを用いた2つのインメモリコンピュートチップを用いて、このファクタライザーの大規模な実験的実証を行う。行列・ベクトル乗算の主要な演算はO(1)で実行され、計算時間は反復回数に相当する程度に短縮されます。さらに、視覚的な知覚表現を確実かつ効率的に因数分解する能力を実験的に実証した。

要約(オリジナル)

Disentanglement of constituent factors of a sensory signal is central to perception and cognition and hence is a critical task for future artificial intelligence systems. In this paper, we present a compute engine capable of efficiently factorizing holographic perceptual representations by exploiting the computation-in-superposition capability of brain-inspired hyperdimensional computing and the intrinsic stochasticity associated with analog in-memory computing based on nanoscale memristive devices. Such an iterative in-memory factorizer is shown to solve at least five orders of magnitude larger problems that cannot be solved otherwise, while also significantly lowering the computational time and space complexity. We present a large-scale experimental demonstration of the factorizer by employing two in-memory compute chips based on phase-change memristive devices. The dominant matrix-vector multiply operations are executed at O(1) thus reducing the computational time complexity to merely the number of iterations. Moreover, we experimentally demonstrate the ability to factorize visual perceptual representations reliably and efficiently.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL