Resource-constrained knowledge diffusion processes inspired by human peer learning

要約

我々は、人工的な学習者の集団が与えられ、訓練資源の制約の下で、パフォーマンスの集約的尺度を最適化することを目的とする設定を考える。この問題は、人間の教育システムにおけるピアラーニングの研究が動機となっている。この文脈において、我々は相互作用する人工学習者のネットワークにおける自然な知識の拡散過程を研究する。自然な」というのは、生徒の内部状態と学習過程がほとんど不透明であり、主な自由度は、学習者をピアグループに割り当てる前に潜在的に評価できるコーディネーターによるピア学習グループの形成にある、人間のピア学習を反映したプロセスを意味する。特に、我々は、このようなプロセスが実際に学習資源を効果的に利用し、ノイズの多いラベルに過剰適合することなく汎化する能力を持つモジュラーニューラルモデルの設計を可能にすることを実証的に示す。

要約(オリジナル)

We consider a setting where a population of artificial learners is given, and the objective is to optimize aggregate measures of performance, under constraints on training resources. The problem is motivated by the study of peer learning in human educational systems. In this context, we study natural knowledge diffusion processes in networks of interacting artificial learners. By `natural’, we mean processes that reflect human peer learning where the students’ internal state and learning process is mostly opaque, and the main degree of freedom lies in the formation of peer learning groups by a coordinator who can potentially evaluate the learners before assigning them to peer groups. Among else, we empirically show that such processes indeed make effective use of the training resources, and enable the design of modular neural models that have the capacity to generalize without being prone to overfitting noisy labels.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL