Complex Recurrent Spectral Network

要約

この論文では、リカレント スペクトラル ネットワーク (RSN) モデルの革新的なバリアントである複雑リカレント スペクトラル ネットワーク ($\mathbb{C}$-RSN) の開発を通じて、人工知能 (AI) を進化させる新しいアプローチを紹介します。
$\mathbb{C}$-RSN は、生物学的ニューラル ネットワークの複雑なプロセスを動的かつ正確にエミュレートできないという、既存のニューラル ネットワーク モデルの重大な制限に対処するように設計されています。
動的システム理論の重要な概念を統合し、統計力学の原理を活用することにより、$\mathbb{C}$-RSN モデルは、局所的な非線形性、複雑な固定固有値、メモリと入力処理機能の明確な分離を導入します。
これらの機能により、$\mathbb{C}$-RSN は、生物学的認知をより忠実に反映した動的で振動する最終状態に向かって進化することが可能になります。
この研究の中心となるのは、$\mathbb{C}$-RSN がその複雑な固有値構造とその線形成分と非線形成分の革新的な分離のおかげで、どのようにして生物学的システムに固有のリズミカルな振動ダイナミクスを捕捉することができるかという探究です。
。
時間依存関数を通じてデータを分類するこのモデルの機能と、情報処理の局所化は、MNIST データセットを使用した経験的評価によって実証されます。
驚くべきことに、連続入力として供給された個別のアイテムは、挿入順序 (および連続した挿入間の分離時間) の間接的な痕跡を残すパターンを時間内に生成します。

要約(オリジナル)

This paper presents a novel approach to advancing artificial intelligence (AI) through the development of the Complex Recurrent Spectral Network ($\mathbb{C}$-RSN), an innovative variant of the Recurrent Spectral Network (RSN) model. The $\mathbb{C}$-RSN is designed to address a critical limitation in existing neural network models: their inability to emulate the complex processes of biological neural networks dynamically and accurately. By integrating key concepts from dynamical systems theory and leveraging principles from statistical mechanics, the $\mathbb{C}$-RSN model introduces localized non-linearity, complex fixed eigenvalues, and a distinct separation of memory and input processing functionalities. These features collectively enable the $\mathbb{C}$-RSN evolving towards a dynamic, oscillating final state that more closely mirrors biological cognition. Central to this work is the exploration of how the $\mathbb{C}$-RSN manages to capture the rhythmic, oscillatory dynamics intrinsic to biological systems, thanks to its complex eigenvalue structure and the innovative segregation of its linear and non-linear components. The model’s ability to classify data through a time-dependent function, and the localization of information processing, is demonstrated with an empirical evaluation using the MNIST dataset. Remarkably, distinct items supplied as a sequential input yield patterns in time which bear the indirect imprint of the insertion order (and of the time of separation between contiguous insertions).

arxiv情報

提供元, 利用サービス

arxiv.jp, Google