Adapting to time: why nature evolved a diverse set of neurons

要約

脳は、時間情報の処理に影響を与える、さまざまな形態、生理学的特性、および豊富なダイナミクスを備えた多様なニューロンのセットを進化させてきました。
対照的に、ほとんどのニューラル ネットワーク モデルには、空間パラメーター (重みとバイアス) のみが異なる同種のユニットのセットが含まれています。
神経機能に対する時間パラメータの重要性を調査するために、パラメータのさまざまなサブセットを一定に保ち、時間的複雑さが異なるタスクでスパイキング ニューラル ネットワークをトレーニングしました。
リソースに厳しく制約された設定では、すべてのテスト条件を解決するには伝導遅延を適応させることが不可欠であり、実際、重みを一定に保ち、時間パラメータ (遅延と時定数) のみを使用してこれらのタスクを解決できることがわかりました。
私たちが研究した最も複雑な時空間タスクでは、適応可能なバースト パラメーターが不可欠であることがわかりました。
より一般的には、時間パラメータと空間パラメータの両方の適応を可能にすることで、ノイズに対するネットワークの堅牢性が向上します。これは、生物学的な脳とニューロモーフィック コンピューティング システムの両方にとって重要な機能です。
要約すると、私たちの発見は、時間的に構造化されたタスクを低い神経リソースコストで解決するには、豊富で適応可能なダイナミクスがいかに重要であるかを強調しています。これが、生物学的ニューロンの生理学的特性が非常に劇的に異なる理由の一部である可能性があります。

要約(オリジナル)

Brains have evolved a diverse set of neurons with varying morphologies, physiological properties and rich dynamics that impact their processing of temporal information. By contrast, most neural network models include a homogeneous set of units that only vary in terms of their spatial parameters (weights and biases). To investigate the importance of temporal parameters to neural function, we trained spiking neural networks on tasks of varying temporal complexity, with different subsets of parameters held constant. We find that in a tightly resource constrained setting, adapting conduction delays is essential to solve all test conditions, and indeed that it is possible to solve these tasks using only temporal parameters (delays and time constants) with weights held constant. In the most complex spatio-temporal task we studied, we found that an adaptable bursting parameter was essential. More generally, allowing for adaptation of both temporal and spatial parameters increases network robustness to noise, an important feature for both biological brains and neuromorphic computing systems. In summary, our findings highlight how rich and adaptable dynamics are key to solving temporally structured tasks at a low neural resource cost, which may be part of the reason why biological neurons vary so dramatically in their physiological properties.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google