Learning beyond sensations: how dreams organize neuronal representations

要約

高次感覚皮質における意味表現は、堅牢でありながら柔軟な動作の基礎を形成します。
これらの表現は、発達の過程で教師なしの方法で獲得され、生物の寿命にわたって継続的に維持されます。
予測学習理論では、これらの表現は感覚入力を予測または再構成することによって現れると提案されています。
しかし、脳は、想像や夢を見ているときなど、以前に経験した入力を超える仮想体験を生成することが知られています。
ここで我々は、皮質表現の形成において、仮想体験が実際の感覚入力と同じくらい関連している可能性があることを示唆しています。
特に、仮想体験の生成を通じて表現を組織化する 2 つの相補的な学習原理について説明します。
まず、「敵対的夢」は、創造的な夢が、フィードバックとフィードフォワード経路が互いに騙そうとする生産的なゲームに参加する敵対的学習の皮質的実装をサポートしていることを提案しています。
第二に、「対比夢」は、無関係な変動要因に対する神経表現の不変性が、対比学習プロセスを介して同様の仮想体験を一緒にマッピングしようとすることによって獲得されることを提案しています。
これらの原理は、既知の皮質の構造とダイナミクス、および睡眠の現象学と互換性があるため、古典的な予測学習パラダイムを超えて皮質学習を説明するための有望な方向性を提供します。

要約(オリジナル)

Semantic representations in higher sensory cortices form the basis for robust, yet flexible behavior. These representations are acquired over the course of development in an unsupervised fashion and continuously maintained over an organism’s lifespan. Predictive learning theories propose that these representations emerge from predicting or reconstructing sensory inputs. However, brains are known to generate virtual experiences, such as during imagination and dreaming, that go beyond previously experienced inputs. Here, we suggest that virtual experiences may be just as relevant as actual sensory inputs in shaping cortical representations. In particular, we discuss two complementary learning principles that organize representations through the generation of virtual experiences. First, ‘adversarial dreaming’ proposes that creative dreams support a cortical implementation of adversarial learning in which feedback and feedforward pathways engage in a productive game of trying to fool each other. Second, ‘contrastive dreaming’ proposes that the invariance of neuronal representations to irrelevant factors of variation is acquired by trying to map similar virtual experiences together via a contrastive learning process. These principles are compatible with known cortical structure and dynamics and the phenomenology of sleep thus providing promising directions to explain cortical learning beyond the classical predictive learning paradigm.

arxiv情報

著者 Nicolas Deperrois,Mihai A. Petrovici,Walter Senn,Jakob Jordan
発行日 2023-12-05 12:20:33+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, q-bio.NC パーマリンク