TransPimLib: A Library for Efficient Transcendental Functions on Processing-in-Memory Systems

要約

タイトル：処理インメモリシステム上で効率的な超越関数を提供するライブラリ、TransPimLib
要約：
– 処理インメモリ（PIM）は、現代のコンピューティングシステムにおけるデータ移動のボトルネックを緩和することを約束しています。
– しかし、現実のPIMシステムは、処理要素をメモリの近くまたは内部に構築することの難しさとコストのため、従来のプロセッサ（CPU、GPU）よりもハードウェアが制限されているという固有の欠点があります。
– そのため、汎用的なPIMアーキテクチャは、比較的限られた命令セットをサポートしており、三角関数や平方根などの超越関数や計算が困難な他の演算を実行するのに苦戦しています。
– これらの操作は、機械学習アプリケーションの活性化関数など、一部の現代ワークロードにとって特に重要です。
– この問題を解決するために、TransPimLib、CORDICベースとLUTベースの方法を提供するライブラリを紹介します。
– 詳細な評価を行い、性能と精度を含めたTransPimLibの方法を評価し、Blackscholes、Sigmoid、Softmaxの3つのワークロードでマイクロベンチマークとデータセットを公開しています。
– すべてのコードとデータセットは、上記のリポジトリでオープンソースとして利用できます。

要約(オリジナル)

Processing-in-memory (PIM) promises to alleviate the data movement bottleneck in modern computing systems. However, current real-world PIM systems have the inherent disadvantage that their hardware is more constrained than in conventional processors (CPU, GPU), due to the difficulty and cost of building processing elements near or inside the memory. As a result, general-purpose PIM architectures support fairly limited instruction sets and struggle to execute complex operations such as transcendental functions and other hard-to-calculate operations (e.g., square root). These operations are particularly important for some modern workloads, e.g., activation functions in machine learning applications. In order to provide support for transcendental (and other hard-to-calculate) functions in general-purpose PIM systems, we present \emph{TransPimLib}, a library that provides CORDIC-based and LUT-based methods for trigonometric functions, hyperbolic functions, exponentiation, logarithm, square root, etc. We develop an implementation of TransPimLib for the UPMEM PIM architecture and perform a thorough evaluation of TransPimLib’s methods in terms of performance and accuracy, using microbenchmarks and three full workloads (Blackscholes, Sigmoid, Softmax). We open-source all our code and datasets at~\url{https://github.com/CMU-SAFARI/transpimlib}.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI