Dynamically Modular and Sparse General Continual Learning

要約

現実世界のアプリケーションでは、多くの場合、絶えず変化する状況下でデータ ストリームから継続的に学習する必要があります。
このような非定常データから学習しようとすると、ディープ ニューラル ネットワーク (DNN) は以前に学習した情報を壊滅的に忘却します。
壊滅的な忘却を回避するための一般的なアプローチの中で、リハーサルに基づく方法が効果的であることが証明されています。
ただし、すべてのパラメーターがすべてのタスクに応答するため、タスクの干渉により忘れがちです。
これに対抗するために、私たちは脳内のスパース コーディングからインスピレーションを得て、リハーサル ベースの一般的な継続的学習のために動的なモジュール性とスパース性 (Dynamos) を導入します。
このセットアップでは、DNN は関連するニューロンのサブセットを活性化することによって刺激に反応することを学習します。
困難な継続的学習評価プロトコルの下で、複数のデータセットに対する Dynamos の有効性を実証します。
最後に、刺激の類似性に対応するオーバーラップでニューロンのサブセットをアクティブ化することにより、再利用性を維持しながら、モジュール化された特殊化された表現を学習することを示します。

要約(オリジナル)

Real-world applications often require learning continuously from a stream of data under ever-changing conditions. When trying to learn from such non-stationary data, deep neural networks (DNNs) undergo catastrophic forgetting of previously learned information. Among the common approaches to avoid catastrophic forgetting, rehearsal-based methods have proven effective. However, they are still prone to forgetting due to task-interference as all parameters respond to all tasks. To counter this, we take inspiration from sparse coding in the brain and introduce dynamic modularity and sparsity (Dynamos) for rehearsal-based general continual learning. In this setup, the DNN learns to respond to stimuli by activating relevant subsets of neurons. We demonstrate the effectiveness of Dynamos on multiple datasets under challenging continual learning evaluation protocols. Finally, we show that our method learns representations that are modular and specialized, while maintaining reusability by activating subsets of neurons with overlaps corresponding to the similarity of stimuli.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google