SNN4Agents: A Framework for Developing Energy-Efficient Embodied Spiking Neural Networks for Autonomous Agents

要約

最近の傾向では、自律地上車両 (AGV)、無人航空機 (UAV)、移動ロボットなどの自律エージェントが、多様なタスクを解決する際に人間の生産性を効果的に向上させることがわかっています。
ただし、これらのエージェントは通常、ポータブル バッテリによって電力供給されるため、長寿命で動作するには非常に低い電力/エネルギー消費しか必要としません。
この課題を解決するために、ニューロモーフィック コンピューティングが有望なソリューションとして浮上しています。この技術では、バイオにインスピレーションを得たスパイキング ニューラル ネットワーク (SNN) が、イベントベースのカメラやデータ変換の前処理からのスパイクを使用して、スパースな計算を効率的に実行します。
ただし、自律エージェントの SNN 導入に関する研究はまだ初期段階にあります。
したがって、自律エージェントに対して効率的な具体化された SNN 展開を可能にするための最適化段階は体系的に定義されていません。
これに向けて、自律エージェント アプリケーションを対象としたエネルギー効率の高い具体化された SNN を設計するための一連の最適化手法で構成される、SNN4Agents と呼ばれる新しいフレームワークを提案します。
当社の SNN4Agent は、重みの量子化、タイムステップの削減、およびアテンション ウィンドウの削減を採用して、高精度を維持しながらエネルギー効率を改善し、メモリ フットプリントを削減し、処理レイテンシを最適化します。
評価では、イベントベースの自動車認識のユースケースを調査し、精度、遅延、メモリ、エネルギー消費の間のトレードオフを調査します。
実験結果は、私たちが提案したフレームワークが、最先端の作業と比較して、68.75% のメモリ節約、3.58 倍の高速化、および 4.03 倍のエネルギー効率の向上により、高い精度 (つまり、84.12% の精度) を維持できることを示しています。
NCARS データセットにより、自律エージェント向けにエネルギー効率の高い組み込み SNN 展開が可能になります。

要約(オリジナル)

Recent trends have shown that autonomous agents, such as Autonomous Ground Vehicles (AGVs), Unmanned Aerial Vehicles (UAVs), and mobile robots, effectively improve human productivity in solving diverse tasks. However, since these agents are typically powered by portable batteries, they require extremely low power/energy consumption to operate in a long lifespan. To solve this challenge, neuromorphic computing has emerged as a promising solution, where bio-inspired Spiking Neural Networks (SNNs) use spikes from event-based cameras or data conversion pre-processing to perform sparse computations efficiently. However, the studies of SNN deployments for autonomous agents are still at an early stage. Hence, the optimization stages for enabling efficient embodied SNN deployments for autonomous agents have not been defined systematically. Toward this, we propose a novel framework called SNN4Agents that consists of a set of optimization techniques for designing energy-efficient embodied SNNs targeting autonomous agent applications. Our SNN4Agents employs weight quantization, timestep reduction, and attention window reduction to jointly improve the energy efficiency, reduce the memory footprint, optimize the processing latency, while maintaining high accuracy. In the evaluation, we investigate use cases of event-based car recognition, and explore the trade-offs among accuracy, latency, memory, and energy consumption. The experimental results show that our proposed framework can maintain high accuracy (i.e., 84.12% accuracy) with 68.75% memory saving, 3.58x speed-up, and 4.03x energy efficiency improvement as compared to the state-of-the-art work for NCARS dataset, thereby enabling energy-efficient embodied SNN deployments for autonomous agents.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google