Semantically-correlated memories in a dense associative model

要約

私は、相関高密度連想記憶 (CDAM) という名前の新しい連想記憶モデルを紹介します。これは、連続値記憶パターンの統一フレームワークに自動連想とヘテロ連想の両方を統合します。
メモリ パターンを意味論的にリンクする任意のグラフ構造を使用して、CDAM が理論的および数値的に分析され、自己関連付け、ナロー ヘテロアソシエーション、ワイド ヘテロアソシエーション、および中立静止という 4 つの異なる動的モードが明らかになります。
抑制性変調の研究からインスピレーションを得て、私は反ヘビアン学習規則を採用してヘテロ会合の範囲を制御し、グラフ内のコミュニティ構造のマルチスケール表現を抽出し、時系列の再現を安定させます。
実験的なデモンストレーションでは、実世界のデータの処理、古典的な神経科学実験の再現、画像検索の実行、および任意の有限オートマトンのシミュレーションにおける CDAM の有効性を示します。

要約(オリジナル)

I introduce a novel associative memory model named Correlated Dense Associative Memory (CDAM), which integrates both auto- and hetero-association in a unified framework for continuous-valued memory patterns. Employing an arbitrary graph structure to semantically link memory patterns, CDAM is theoretically and numerically analysed, revealing four distinct dynamical modes: auto-association, narrow hetero-association, wide hetero-association, and neutral quiescence. Drawing inspiration from inhibitory modulation studies, I employ anti-Hebbian learning rules to control the range of hetero-association, extract multi-scale representations of community structures in graphs, and stabilise the recall of temporal sequences. Experimental demonstrations showcase CDAM’s efficacy in handling real-world data, replicating a classical neuroscience experiment, performing image retrieval, and simulating arbitrary finite automata.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google