Decomposed Inductive Procedure Learning: Learning Academic Tasks with Human-Like Data Efficiency

要約

人間の学習は専門化に依存しています – 迅速な学習を可能にするために協力する明確な認知メカニズム。
対照的に、ほとんどの最新のニューラルネットワークは、客観的関数に対する勾配降下、単一のメカニズムに依存しています。
これは疑問を提起します：数万人のデータ駆動型の深い学習ではなく、数万の例から人間の学習者の比較的迅速な学習は、複数の専門化された学習メカニズムを組み合わせて使用​​する能力から生じますか？
オンラインの個別指導環境における誘導性の人間学習シミュレーションのアブレーション分析を通じて、この質問を調査します。
強化学習をよりデータ効率の高い3メカニズムのシンボリックルール誘導アプローチと比較すると、学習を複数の異なるメカニズムに分解するとデータ効率が大幅に向上し、人間の学習に沿ったものになることがわかります。
さらに、この分解は、シンボリック学習とサブシンボリック学習のみの区別よりも効率に大きな影響を与えることを示しています。
データ駆動型の機械学習と人間の学習を調整する努力は、しばしば学習効率の違いを見落としています。
私たちの調査結果は、複数の専門学習メカニズムを統合することが、このギャップを埋めるための鍵である可能性があることを示唆しています。

要約(オリジナル)

Human learning relies on specialization — distinct cognitive mechanisms working together to enable rapid learning. In contrast, most modern neural networks rely on a single mechanism: gradient descent over an objective function. This raises the question: might human learners’ relatively rapid learning from just tens of examples instead of tens of thousands in data-driven deep learning arise from our ability to use multiple specialized mechanisms of learning in combination? We investigate this question through an ablation analysis of inductive human learning simulations in online tutoring environments. Comparing reinforcement learning to a more data-efficient 3-mechanism symbolic rule induction approach, we find that decomposing learning into multiple distinct mechanisms significantly improves data efficiency, bringing it in line with human learning. Furthermore, we show that this decomposition has a greater impact on efficiency than the distinction between symbolic and subsymbolic learning alone. Efforts to align data-driven machine learning with human learning often overlook the stark difference in learning efficiency. Our findings suggest that integrating multiple specialized learning mechanisms may be key to bridging this gap.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google