Models Developed for Spiking Neural Networks

要約

ディープ ニューラル ネットワーク (DNN) の出現により、人工ニューラル ネットワーク (ANN) に対する大きな注目が再び高まっています。
それらは最先端のモデルになり、さまざまな機械学習の課題に勝ちました。
これらのネットワークは脳に着想を得ていますが、生物学的妥当性に欠けており、脳と比較して構造的な違いがあります。
スパイキング ニューラル ネットワーク (SNN) は長い間存在しており、脳のダイナミクスを理解するために調査されてきました。
ただし、現実世界の複雑な機械学習タスクへの適用は限られていました。
最近、それらはそのような課題を解決する上で大きな可能性を示しています。
それらのエネルギー効率と時間的ダイナミクスにより、将来の開発には多くの見込みがあります。
この作業では、画像分類タスクにおける SNN の構造とパフォーマンスを確認しました。
これらの比較は、これらのネットワークがより複雑な問題に対して優れた機能を発揮することを示しています。
さらに、STDP や R-STDP などの SNN 用に開発された単純な学習ルールは、DNN で使用される逆伝播アルゴリズムを置き換える潜在的な代替手段になる可能性があります。

要約(オリジナル)

Emergence of deep neural networks (DNNs) has raised enormous attention towards artificial neural networks (ANNs) once again. They have become the state-of-the-art models and have won different machine learning challenges. Although these networks are inspired by the brain, they lack biological plausibility, and they have structural differences compared to the brain. Spiking neural networks (SNNs) have been around for a long time, and they have been investigated to understand the dynamics of the brain. However, their application in real-world and complicated machine learning tasks were limited. Recently, they have shown great potential in solving such tasks. Due to their energy efficiency and temporal dynamics there are many promises in their future development. In this work, we reviewed the structures and performances of SNNs on image classification tasks. The comparisons illustrate that these networks show great capabilities for more complicated problems. Furthermore, the simple learning rules developed for SNNs, such as STDP and R-STDP, can be a potential alternative to replace the backpropagation algorithm used in DNNs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google