Computing with Residue Numbers in High-Dimensional Representation

要約

私たちは、剰余数系とランダムな高次元ベクトルに対して定義された代数を統合するコンピューティング フレームワークである剰余超次元コンピューティングを紹介します。
ベクトル要素に対するコンポーネントごとの並列化可能な演算で代数演算を実行できる方法で、剰余数を高次元ベクトルとして表現する方法を示します。
結果として得られるフレームワークは、高次元ベクトルを因数分解する効率的な方法と組み合わせると、以前の方法よりも大幅に少ないリソースを使用して、広いダイナミック レンジにわたる数値を表現し操作することができ、ノイズに対して優れた堅牢性を示します。
私たちは、このフレームワークが視覚認識と組み合わせ最適化における計算的に困難な問題を解決できる可能性を実証し、ベースライン手法と比べて改善が見られることを示しています。
より広範には、このフレームワークは脳内のグリッド セルの計算操作について考えられる説明を提供し、数値データを表現および操作するための新しい機械学習アーキテクチャを提案します。

要約(オリジナル)

We introduce Residue Hyperdimensional Computing, a computing framework that unifies residue number systems with an algebra defined over random, high-dimensional vectors. We show how residue numbers can be represented as high-dimensional vectors in a manner that allows algebraic operations to be performed with component-wise, parallelizable operations on the vector elements. The resulting framework, when combined with an efficient method for factorizing high-dimensional vectors, can represent and operate on numerical values over a large dynamic range using vastly fewer resources than previous methods, and it exhibits impressive robustness to noise. We demonstrate the potential for this framework to solve computationally difficult problems in visual perception and combinatorial optimization, showing improvement over baseline methods. More broadly, the framework provides a possible account for the computational operations of grid cells in the brain, and it suggests new machine learning architectures for representing and manipulating numerical data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google