Towards a ‘universal translator’ for neural dynamics at single-cell, single-spike resolution

要約

神経科学の研究は過去 10 年間で大きな進歩を遂げましたが、脳に関する私たちの理解は断片的で断片的なままです。任意の脳領域を調査し、その神経活動にエンコードされた情報を自動的に読み出すという夢は、依然として手の届かないところにあります。
この研究では、複数の脳領域にわたる多様なタスクを解決できるニューラル スパイキング データの最初の基礎モデルを構築します。
我々は、モデルが異なるタイムステップ、ニューロン、脳領域にわたる神経活動のマスクアウトと再構築を交互に行う、集団活動のための新しい自己教師ありモデリングアプローチを導入します。
私たちのアプローチを評価するために、国際脳研究所の反復部位データセットを使用して教師なし予測タスクと教師あり予測タスクを設計します。このデータセットは、48 匹の動物と実験セッションにわたる同じ脳の位置をターゲットとしたニューロピクセル記録で構成されています。
予測タスクには、単一ニューロンおよび領域レベルのアクティビティ予測、前方予測、および動作デコードが含まれます。
私たちは、マルチタスク マスキング (MtM) アプローチが現在の最先端の人口モデルのパフォーマンスを大幅に向上させ、マルチタスク学習を可能にすることを実証します。
また、複数の動物でトレーニングすることで、未確認の動物に対するモデルの汎化能力を向上させ、単一細胞、単一スパイクの解像度での脳の基礎モデルへの道を開くことができることも示します。

要約(オリジナル)

Neuroscience research has made immense progress over the last decade, but our understanding of the brain remains fragmented and piecemeal: the dream of probing an arbitrary brain region and automatically reading out the information encoded in its neural activity remains out of reach. In this work, we build towards a first foundation model for neural spiking data that can solve a diverse set of tasks across multiple brain areas. We introduce a novel self-supervised modeling approach for population activity in which the model alternates between masking out and reconstructing neural activity across different time steps, neurons, and brain regions. To evaluate our approach, we design unsupervised and supervised prediction tasks using the International Brain Laboratory repeated site dataset, which is comprised of Neuropixels recordings targeting the same brain locations across 48 animals and experimental sessions. The prediction tasks include single-neuron and region-level activity prediction, forward prediction, and behavior decoding. We demonstrate that our multi-task-masking (MtM) approach significantly improves the performance of current state-of-the-art population models and enables multi-task learning. We also show that by training on multiple animals, we can improve the generalization ability of the model to unseen animals, paving the way for a foundation model of the brain at single-cell, single-spike resolution.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google