Context selectivity with dynamic availability enables lifelong continual learning

要約

「自転車の乗り方は決して忘れない」――しかし、どうやってそんなことが可能なのでしょうか？
脳は複雑なスキルを学習し、何年も練習を中止し、その間に他のスキルを学習し、それでも必要に応じて元の知識を取り戻すことができます。
生涯学習（または継続学習、CL）と呼ばれるこの能力のメカニズムは不明です。
我々は、CL の古典的な研究に基づいて構築された生物学的に妥当なメタ可塑性ルールを提案します。これは、(i) ニューロンはコンテキスト選択的であり、(ii) ニューロンが以前のデータに関連していた場合、局所的な可用性変数は可塑性を部分的に凍結するという 2 つの原則に要約されます。
タスク。
これらの原理を神経中心に定式化した新たな手法で、ニューロンの選択性とニューロン全体の統合が、脳内で CL を可能にするシンプルで実行可能なメタ可塑性仮説であることを提案します。
シミュレーションでは、このシンプルなモデルは忘却と統合のバランスをとり、画像認識および自然言語処理の CL ベンチマークにおいて現代の CL アルゴリズムよりも優れた転移学習を実現します。

要約(オリジナル)

‘You never forget how to ride a bike’, — but how is that possible? The brain is able to learn complex skills, stop the practice for years, learn other skills in between, and still retrieve the original knowledge when necessary. The mechanisms of this capability, referred to as lifelong learning (or continual learning, CL), are unknown. We suggest a bio-plausible meta-plasticity rule building on classical work in CL which we summarize in two principles: (i) neurons are context selective, and (ii) a local availability variable partially freezes the plasticity if the neuron was relevant for previous tasks. In a new neuro-centric formalization of these principles, we suggest that neuron selectivity and neuron-wide consolidation is a simple and viable meta-plasticity hypothesis to enable CL in the brain. In simulation, this simple model balances forgetting and consolidation leading to better transfer learning than contemporary CL algorithms on image recognition and natural language processing CL benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google