Sparsity-Aware Hardware-Software Co-Design of Spiking Neural Networks: An Overview

要約

スパイキング ニューラル ネットワーク (SNN) は、生物学的ニューラル処理のスパースでイベント駆動型の性質からインスピレーションを受けており、超低電力人工知能の可能性を提供します。
ただし、効率性の利点を実現するには、特殊なハードウェアと、スパース性を効果的に活用する共同設計アプローチが必要です。
私たちは、スパース SNN のハードウェアとソフトウェアの協調設計を検討し、スパース表現、ハードウェア アーキテクチャ、トレーニング手法がハードウェアの効率にどのような影響を与えるかを調査します。
私たちは、静的および動的スパース性の影響を分析し、さまざまなニューロン モデルとエンコーディング スキームの影響について議論し、ハードウェア設計における適応性の必要性を調査します。
私たちの研究は、スパース SNN の計算上の利点を最大限に活用する組み込みニューロモーフィック システムへの道を明らかにすることを目的としています。

要約(オリジナル)

Spiking Neural Networks (SNNs) are inspired by the sparse and event-driven nature of biological neural processing, and offer the potential for ultra-low-power artificial intelligence. However, realizing their efficiency benefits requires specialized hardware and a co-design approach that effectively leverages sparsity. We explore the hardware-software co-design of sparse SNNs, examining how sparsity representation, hardware architectures, and training techniques influence hardware efficiency. We analyze the impact of static and dynamic sparsity, discuss the implications of different neuron models and encoding schemes, and investigate the need for adaptability in hardware designs. Our work aims to illuminate the path towards embedded neuromorphic systems that fully exploit the computational advantages of sparse SNNs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google