Low-power Spike-based Wearable Analytics on RRAM Crossbars

要約

この作業では、コンパクトさとエネルギー効率で知られているRRAM Crossbarsに基づいて、スパイクニューラルネットワーク（SNNS）を使用したスパイクベースのウェアラブル分析システムを導入します。
基礎となるRRAMクロスバーのハードウェアの制約とノイズ特性を考えると、従来のバックプロパゲーション（BP）に対する直接フィードバックアライメント（DFA）を使用して、事前に訓練されたSNNのオンライン適応をリアルタイムでオンラインで適応させることを提案します。
レイヤー並列勾配計算を可能にする直接フィードバックアライメント（DFA）学習は、RRAMクロスバーでのSNNをオンラインで適応するための高速でエネルギーおよび面積効率の高い方法として機能し、BPを使用して適応したものに対するより良いアルゴリズム性能を解き放ちます。
DFA_SIMと呼ばれる社内ハードウェア評価エンジンを使用した広範なシミュレーションにより、DFAは、BPと比較して最大64.1％低いエネルギー消費量、10.1％低い面積のオーバーヘッド、レイテンシの2.1倍の減少を達成し、最大7.55％の高価な脱安を実現することがわかります。
人間の活動認識（HAR）タスクの精度。

要約(オリジナル)

This work introduces a spike-based wearable analytics system utilizing Spiking Neural Networks (SNNs) deployed on an In-memory Computing engine based on RRAM crossbars, which are known for their compactness and energy-efficiency. Given the hardware constraints and noise characteristics of the underlying RRAM crossbars, we propose online adaptation of pre-trained SNNs in real-time using Direct Feedback Alignment (DFA) against traditional backpropagation (BP). Direct Feedback Alignment (DFA) learning, that allows layer-parallel gradient computations, acts as a fast, energy & area-efficient method for online adaptation of SNNs on RRAM crossbars, unleashing better algorithmic performance against those adapted using BP. Through extensive simulations using our in-house hardware evaluation engine called DFA_Sim, we find that DFA achieves upto 64.1% lower energy consumption, 10.1% lower area overhead, and a 2.1x reduction in latency compared to BP, while delivering upto 7.55% higher inference accuracy on human activity recognition (HAR) tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google