Learning in Spiking Neural Networks with a Calcium-based Hebbian Rule for Spike-timing-dependent Plasticity

要約

生物学的ニューラルネットワークが局所的な可塑性メカニズムを介してどのように形成されるかを理解することは、エネルギー効率の高い自己適応性情報処理システムにつながる可能性があり、エッジコンピューティングシステムの現在の障害の一部を軽減することを約束します。
生物学はスパイクを使用して、シナプス強度を調節するためにスパイクのタイミングと平均発火率の両方をシームレスに使用しますが、ほとんどのモデルは2つのうちの1つに焦点を当てています。
この作業では、シナプスの修飾がニューロン活動を追跡する関数としてシナプスの修飾をモデル化するヘビアのローカル学習ルールを提示します。
ルールが、神経科学的研究からのスパイク時間とスパイクレートプロトコルからの結果をどのように再現するかを示します。
さらに、モデルを使用して、MNIST Digit認識でスパイクニューラルネットワークをトレーニングして、実際のパターンを学習するために必要なメカニズムを表示および説明します。
私たちのモデルが相関スパイキング活動にどのように敏感であり、これにより、ニューロンの平均発火率や学習ルールの著名計を変更せずにネットワークの学習率を変調する方法を示します。
私たちの知る限り、これはスパイクのタイミングとレートがスパイクニューラルネットワークの接続性を形作る役割において補完的になる方法を示す最初の作業です。

要約(オリジナル)

Understanding how biological neural networks are shaped via local plasticity mechanisms can lead to energy-efficient and self-adaptive information processing systems, which promises to mitigate some of the current roadblocks in edge computing systems. While biology makes use of spikes to seamless use both spike timing and mean firing rate to modulate synaptic strength, most models focus on one of the two. In this work, we present a Hebbian local learning rule that models synaptic modification as a function of calcium traces tracking neuronal activity. We show how the rule reproduces results from spike time and spike rate protocols from neuroscientific studies. Moreover, we use the model to train spiking neural networks on MNIST digit recognition to show and explain what sort of mechanisms are needed to learn real-world patterns. We show how our model is sensitive to correlated spiking activity and how this enables it to modulate the learning rate of the network without altering the mean firing rate of the neurons nor the hyparameters of the learning rule. To the best of our knowledge, this is the first work that showcases how spike timing and rate can be complementary in their role of shaping the connectivity of spiking neural networks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google