BioLCNet: Reward-modulated Locally Connected Spiking Neural Networks

要約

ニューロモルフィックハードウェアとの互換性に加えて、脳に触発された計算と情報処理により、スパイキングニューラルネットワーク（SNN）は、機械学習（ML）の学習タスクを解決するための有望な方法になっています。
スパイキングニューロンは、生物学的に妥当な学習モデルを構築するための要件の1つにすぎません。
ネットワークアーキテクチャと学習ルールは、このような人工エージェントを開発する際に考慮すべき他の重要な要素です。
この作業では、人間の視覚経路と学習におけるドーパミンの役割に触発されて、視覚学習タスクのための報酬変調ローカル接続スパイキングニューラルネットワーク、BioLCNetを提案します。
ポアソン分布のスパイク列から視覚的特徴を抽出するために、重みを共有する畳み込みフィルターと比較して、生物学的視覚システムにより類似したローカルフィルターを使用しました。
デコード層では、スパイク人口ベースの投票スキームを適用して、ネットワークの決定を決定しました。
視覚的特徴を学習するためにスパイクタイミング依存可塑性（STDP）を採用し、報酬または罰のフィードバック信号に基づいてデコーダーをトレーニングするためにその報酬変調バリアント（R-STDP）を採用しました。
評価のために、最初に、古典的条件付け実験でさまざまなターゲット応答に対する報酬メカニズムの堅牢性を評価しました。
その後、MNISTおよびXORMNISTデータセットの画像分類タスクでネットワークのパフォーマンスを評価しました。

要約(オリジナル)

Brain-inspired computation and information processing alongside compatibility with neuromorphic hardware have made spiking neural networks (SNN) a promising method for solving learning tasks in machine learning (ML). Spiking neurons are only one of the requirements for building a bio-plausible learning model. Network architecture and learning rules are other important factors to consider when developing such artificial agents. In this work, inspired by the human visual pathway and the role of dopamine in learning, we propose a reward-modulated locally connected spiking neural network, BioLCNet, for visual learning tasks. To extract visual features from Poisson-distributed spike trains, we used local filters that are more analogous to the biological visual system compared to convolutional filters with weight sharing. In the decoding layer, we applied a spike population-based voting scheme to determine the decision of the network. We employed Spike-timing-dependent plasticity (STDP) for learning the visual features, and its reward-modulated variant (R-STDP) for training the decoder based on the reward or punishment feedback signal. For evaluation, we first assessed the robustness of our rewarding mechanism to varying target responses in a classical conditioning experiment. Afterwards, we evaluated the performance of our network on image classification tasks of MNIST and XOR MNIST datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google