Biologically Inspired Dynamic Thresholds for Spiking Neural Networks

要約

動的膜電位閾値は、生物学的ニューロンの必須特性の 1 つであり、ニューロンの恒常性、つまりニューロンの全体的なスパイク発火率を一定に維持する自発的な制御機構です。
そのため、ニューロンの発火率は、生物学において広範に研究されている動的スパイク閾値によって制御されます。
機械学習コミュニティの既存の研究では、生物由来のスパイキング閾値スキームは採用されていません。
この研究は、スパイキング ニューラル ネットワーク (SNN) に生体からインスピレーションを得た新しい動的エネルギー時間閾値 (BDETT) スキームを導入することで、このギャップを埋めることを目的としています。
提案された BDETT スキームは、2 つの生物学的にもっともらしい観察を反映しています。動的閾値には、1) 平均膜電位との正の相関、および 2) 先行する脱分極率との負の相関があります。
我々は、通常の状態とノイズの多い観測、重量、動的環境を含むさまざまな劣化状態の両方で、ロボットの障害物回避と連続制御タスクに対する提案された BDETT の有効性を検証します。
我々は、BDETTが、テストされたすべての条件において、既存の静的閾値アプローチおよびヒューリスティック閾値アプローチよりも大幅に優れていることを発見し、提案された生物からインスピレーションを得た動的閾値スキームが、複雑な現実世界のタスクにおいてSNNにホメオスタシスを提供することを確認します。

要約(オリジナル)

The dynamic membrane potential threshold, as one of the essential properties of a biological neuron, is a spontaneous regulation mechanism that maintains neuronal homeostasis, i.e., the constant overall spiking firing rate of a neuron. As such, the neuron firing rate is regulated by a dynamic spiking threshold, which has been extensively studied in biology. Existing work in the machine learning community does not employ bioinspired spiking threshold schemes. This work aims at bridging this gap by introducing a novel bioinspired dynamic energy-temporal threshold (BDETT) scheme for spiking neural networks (SNNs). The proposed BDETT scheme mirrors two bioplausible observations: a dynamic threshold has 1) a positive correlation with the average membrane potential and 2) a negative correlation with the preceding rate of depolarization. We validate the effectiveness of the proposed BDETT on robot obstacle avoidance and continuous control tasks under both normal conditions and various degraded conditions, including noisy observations, weights, and dynamic environments. We find that the BDETT outperforms existing static and heuristic threshold approaches by significant margins in all tested conditions, and we confirm that the proposed bioinspired dynamic threshold scheme offers homeostasis to SNNs in complex real-world tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google