Emulating Brain-like Rapid Learning in Neuromorphic Edge Computing

要約

リアルタイム学習機能を備えたエッジでパーソナライズされたインテリジェンスを実現することは、私たちの日常体験を強化し、意思決定、計画、センシングを支援する上で大きな可能性を秘めています。
しかし、パーソナライズされたデータの欠如、ハードウェア機能の不足、オンライン学習に固有の課題などにより、現在のテクノロジーでは効率的で信頼性の高いエッジ学習は依然として困難です。
時間の経過とともに、複数の発達段階にわたって、脳は以前の知識を徐々に積み上げていくことで、新しい知識を効率的に取り込むように進化してきました。
この研究では、2 段階の学習を使用して脳の神経およびシナプスのプロセスをシミュレートするデジタル ニューロモーフィック テクノロジーを使用して、複数段階の学習をエミュレートします。
まず、メタトレーニング ステージでは、ニューロモーフィック ハードウェアの微分可能なシミュレーションを使用して、ワンショット学習用のシナプス可塑性のハイパーパラメーターをトレーニングします。
このメタトレーニング プロセスは、ハードウェアのローカル 3 要素シナプス可塑性ルールとそれに関連するハイパーパラメーターを調整して、トレーニングされたタスク ドメインに合わせます。
その後の展開段階では、これらの最適化されたハイパーパラメータにより、新しいクラスを高速かつデータ効率よく正確に学習できるようになります。
イベント駆動型ビジョンセンサーデータと可塑性ダイナミクスを備えたインテル Loihi ニューロモーフィック プロセッサを使用したアプローチを実証し、転移学習よりも大幅に改善された新しいクラスのリアルタイムのワンショット学習を実現します。
私たちの方法論は、任意の可塑性モデルを使用して展開でき、不慣れな環境をナビゲートしたり、ユーザーの関与を通じて予期しないカテゴリのデータを学習したりするなど、エッジでの迅速な学習と適応が必要な状況に適用できます。

要約(オリジナル)

Achieving personalized intelligence at the edge with real-time learning capabilities holds enormous promise in enhancing our daily experiences and helping decision making, planning, and sensing. However, efficient and reliable edge learning remains difficult with current technology due to the lack of personalized data, insufficient hardware capabilities, and inherent challenges posed by online learning. Over time and across multiple developmental stages, the brain has evolved to efficiently incorporate new knowledge by gradually building on previous knowledge. In this work, we emulate the multiple stages of learning with digital neuromorphic technology that simulates the neural and synaptic processes of the brain using two stages of learning. First, a meta-training stage trains the hyperparameters of synaptic plasticity for one-shot learning using a differentiable simulation of the neuromorphic hardware. This meta-training process refines a hardware local three-factor synaptic plasticity rule and its associated hyperparameters to align with the trained task domain. In a subsequent deployment stage, these optimized hyperparameters enable fast, data-efficient, and accurate learning of new classes. We demonstrate our approach using event-driven vision sensor data and the Intel Loihi neuromorphic processor with its plasticity dynamics, achieving real-time one-shot learning of new classes that is vastly improved over transfer learning. Our methodology can be deployed with arbitrary plasticity models and can be applied to situations demanding quick learning and adaptation at the edge, such as navigating unfamiliar environments or learning unexpected categories of data through user engagement.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google